我國科學家研發出新型類腦學習方法,極大緩解“災難性遺忘”問題
None
我國科研團隊研發出一種基於神經調製依賴可塑性的新型類腦學習方法(NACA),可有效解決目前人工神經網絡中普遍存在的“災難性遺忘”問題,有望進一步引導新型類腦芯片的設計。相關成果日前在國際學術期刊《科學進展》在線發表。

NACA計算模型。(中國科學院自動化研究所供圖)
文章第一作者、中國科學院自動化研究所副研究員張鐵林介紹,人工神經網絡由於採用反向傳播(BP)等人工學習方法,可能會導致人工智能系統在學習新任務或適應新環境時,喪失了以前習得的一些能力,這種現象被稱為“災難性遺忘”,會對人工智能系統穩定運行產生不利影響。為此,人工智能迫切需要借鑑生物系統中的微觀、介觀、宏觀等多尺度神經可塑性融合計算機制。
據介紹,生物系統中常見的多巴胺、血清素等神經調質物,往往經由特定的腺體釋放,並遠程彌散、投射到一定範圍內的目標神經元羣體,且根據調質濃度水平的不同,對局部的神經元可塑性、突觸可塑性等產生多種複雜的調製影響。

人腦中的神經調製。(中國科學院自動化研究所供圖)
此項研究中,科研團隊在上述生物神經調製機制的啓發下,整合得到NACA。科研團隊隨後在典型的圖片和語音模式識別任務中對該新型類腦學習方法進行了評估,評估結果顯示,其與傳統算法相比,具有更低的能耗,且可以極大地緩解“災難性遺忘”問題。
“該新型類腦學習方法是一類生物合理的全局優化算法,具備純前饋學習、低訓練能耗、支持動態連續學習等特徵,有望進一步引導新型類腦芯片的設計。”文章通訊作者、中國科學院自動化研究所研究員徐波説。
(記者宋晨、張泉)