淺層循環神經網絡CORnet-S：最像大腦的物體識別高手_風聞

嚴冰冰 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

深層卷積人工神經網絡（Deep Convolutional ANN）是近年來視覺處理領域的寵兒，它們起源於簡單的淺層網絡（如八層結構的AlexNet），進化出多層級、多分支的複雜結構（如NASNet、ResNet）。

這些深層的前饋神經網絡雖然在物體識別測試中表現卓越，但都存在侷限。

太過複雜：層級太多，難以與大腦視覺系統的腹側通路結構對應。

太不復雜：缺少具有生物學意義的大腦構造（如循環結構），難以匹配大腦複雜的神經動態。

這些深層ANN繼續進化，是否會變得越來越不像真實的大腦？

為了回答這個問題，MIT的DiCarlo實驗室推出線上測試平台Brain-Score，評估ANN與大腦在物體識別過程中的相似程度，同時與多方合作，開發淺層網絡CORnet系列。

其中，最優秀的是CORnet-S選手，它的構造與大腦的解剖結構更加對應，且在機器學習評估中表現優異，是迄今為止靈長類視覺腹側通路的最佳模型，為視覺處理領域ANN的開發與對大腦功能的深入理解提供了新思路。

構造：簡潔輕便、模擬大腦

CORnet-S由4個層級組成，分別對應大腦視覺腹側通路中的V1、V2、V4與IT區域，在第4層之後增加一個線性分類解碼器，對應從IT區域信號輸出到行為選擇的處理過程。         

**△**CORnet-S對應大腦視覺腹側通路的4個區域來源：arXiv:1909.06161 [cs.CV]

CORnet-S的每個層級都是一個簡單的經典卷積神經網絡，由卷積、激活、非線性化、歸一化、池化等步驟組成，其中V2、V4、IT區域的迴路結構一致，但神經數目不同。

**△**CORnet-S參數來源：https://doi.org/10.1101/408385

CORnet-S增加了層級內部循環的特徵，其中V2與IT區域重複2次，V4區域重複4次，並且增加了跳躍連接。

              

**△**來源：arXiv:1909.06161 [cs.CV]

層級內部循環，即將該層級的輸出作為輸入重新進入該層級，多次重複後得到最終的輸出，模擬腦區內部循環。

優勢：Brain-Score與ImageNet雙高分

Brain-Score平台從以下幾個方面評估ANN性能：

神經信號預測：ANN是否能準確預測神經元（猴腦內88處V4區域位點與168處IT區域位點）對圖像輸入的信號反應；

行為預測：ANN與人類在核心物體識別中的行為模式是否一致（注意：此處評估行為的一致性，即同對同錯，而非準確性）；

物體識別時間（OST）：ANN與大腦內IT區域神經元（猴腦內424處IT區域位點）得到圖像分類信息所需時間是否一致；

前饋簡易度：評估ANN結構的複雜程度，以最長通路的卷積層數為標準，相同參數的區域內循環算作1，如CORnet-S為4層，非常簡單。

在Brain-Score平台上可以看到，相比其他的視覺處理人工神經網絡，CORnet-S得分最高，在ImageNet測試中也名列前茅，是淺層網絡中表現最好的。綜合考慮ANN的前饋簡易度因素，CORnet-S也十分具有優勢。

                       

**△**CORnet-S在Brain-Score與ImageNet評估中得分很高，且結構簡單。來源：arXiv:1909.06161 [cs.CV] 

研究者進一步探索發現，循環是CORnet-S在評估中表現優異的關鍵因素，區域內循環次數、瓶頸層設定與跳躍連接是關鍵參數。另外，相比前饋網絡，CORnet-S與猴腦內物體識別時間的相關程度更高（r=0.19, p<1e-8），可以部分抓取I****T區域的神經元動態，而這一點是前饋神經網絡無法做到的。     

 

**△**CORnet-S的關鍵參數來源：arXiv:1909.06161 [cs.CV]總結

CORnet-S的發展不僅打破了傳統的深層網絡開發思路，也為神經生物學家深入理解大腦結構與功能提供了新的可能性。值得注意的是，目前CORnet-S的設定中不包含層級間循環與反饋，且不包括對應大腦結構中**視網膜與外側膝狀體（IGN）**的區域，這些現存的缺陷都為它未來的發展提供了想象空間。