人類已經(jīng)教會了深度神經(jīng)網(wǎng)絡(luò)做許多驚人的事情，從識別和推理圖像中的物體，到在Atari游戲和圍棋中發(fā)揮出超越人類的水平，不一而足。隨著神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和所做的任務(wù)變得越來越復(fù)雜，神經(jīng)網(wǎng)絡(luò)學(xué)到的解題方法也越來越難以被人類理解。

人們把這個問題稱作“黑箱”。隨著神經(jīng)網(wǎng)絡(luò)越來越多地參與解決現(xiàn)實(shí)世界中的問題，解決這個黑箱問題也變得越發(fā)重要。

為了能夠了解和解釋這些神經(jīng)網(wǎng)絡(luò)系統(tǒng)，DeepMind的研究人員們一直在探索新的工具和方法。最近ICML就收錄了一篇來自DeepMind的論文，文中他們提出了一種新的、來自認(rèn)知心理學(xué)的方法，來理解深度神經(jīng)網(wǎng)絡(luò)。認(rèn)知心理學(xué)通過對行為的測量來推測認(rèn)知過程的機(jī)理，有許多的認(rèn)知心理學(xué)論文詳細(xì)解釋了這些機(jī)理，同時介紹了許多驗(yàn)證機(jī)理的實(shí)驗(yàn)方法。隨著***的神經(jīng)網(wǎng)絡(luò)在特定任務(wù)上達(dá)到人類水平，認(rèn)知心理學(xué)的方法就能對解決黑箱問題起到不小幫助。

[[195594]]

黑箱

DeepMind在論文中研究了一個具體案例來展現(xiàn)觀點(diǎn)，他們設(shè)計(jì)了一個闡明人類的認(rèn)知過程的實(shí)驗(yàn)，用來對比幫助理解深度神經(jīng)網(wǎng)絡(luò)如何解決圖像分類任務(wù)。

結(jié)果是，認(rèn)知科學(xué)家在人類身上觀察到的行為，在這些深度神經(jīng)網(wǎng)絡(luò)中也能觀察到。更進(jìn)一步地，人們可以從這些結(jié)果中深入理解神經(jīng)網(wǎng)絡(luò)是如何解決圖像分類任務(wù)的，這些理解不僅很有用，而且還令人驚訝?？偟膩碚f，這項(xiàng)案例研究的成功展現(xiàn)出了用認(rèn)知心理學(xué)方法理解深度學(xué)習(xí)系統(tǒng)的潛力。

測量一次性詞匯學(xué)習(xí)模型中的形狀偏好

在DeepMind的案例研究中，他們思考了這樣一個問題：人類小孩是如何識別并分類物體的，這個問題也在發(fā)展認(rèn)知心理學(xué)中得到了豐富研究。小孩有從單個例子猜測單詞意思的能力，人們稱作“一次性詞匯學(xué)習(xí)”，這種能力非常容易獲得，人們也往往以為這個過程非常簡單。然而，哲學(xué)家Willard Van Orman Quine提出過一個經(jīng)典思想實(shí)驗(yàn)，展示出了這個過程到底有多復(fù)雜：

一位實(shí)地語言學(xué)家前去體驗(yàn)另一種文化，這種文化中使用的語言和他以前使用的完全不一樣。這位語言學(xué)家就需要找肯幫忙的當(dāng)?shù)厝私趟恍﹩卧~。當(dāng)有一只兔子跑過的時候，當(dāng)?shù)厝苏f“gavagai”，語言學(xué)家就要猜當(dāng)?shù)厝说倪@個詞是什么意思。對語言學(xué)家來說，這個詞可以指代的內(nèi)容有很多種，可能是兔子、動物、白色的東西、特指這只兔子，甚至是兔子身上單獨(dú)某個部位。實(shí)際上這個詞可以代指的意象是無窮多的，人類是如何在其中選中正確的那個的呢？

[[195595]]

“gavagai”

50年以后，面對著能夠做一次性詞匯學(xué)習(xí)的深度神經(jīng)網(wǎng)絡(luò)，同樣的問題又出現(xiàn)在了人們的眼前。拿DeepMind開發(fā)的“匹配網(wǎng)絡(luò)”舉例，這個模型中用到了注意力模型和記憶模型方面的近期發(fā)展，達(dá)到了僅憑單張分類示例就可以對ImageNet圖像進(jìn)行分類的***水平。但是我們并不知道網(wǎng)絡(luò)在給圖像分類的時候采取了怎樣的假設(shè)。

為了深入探究這個問題，DeepMind的研究人員參考了一些發(fā)展心理學(xué)方面的研究。這些心理學(xué)家們發(fā)現(xiàn)了小孩有歸納偏好的證據(jù)。這種偏好可以消除很多不正確的指代，從而讓他們找到正確的指代。這種偏好包括：

• 整個物體偏好，小孩會假定一個單詞指代的是整個物體而不是它的組成部分（消除了Quine對指代兔子身上單獨(dú)某個部位的擔(dān)心）

• 分類偏好，小孩會假定一個單詞指代的是一個物體所屬的基礎(chǔ)分類（消除了Quine對指代“全體動物”而不是“兔子”這個基礎(chǔ)含義的擔(dān)心）

• 形狀偏好，小孩會假定一個名詞的含義是根據(jù)物體的形狀而不是顏色或者紋理來確定的（消除了Quine對指代所有白色的東西而不是“兔子”這個具體對象的擔(dān)心）

DeepMind的研究人員測量了他們的神經(jīng)網(wǎng)絡(luò)的形狀偏好，這是因?yàn)槿祟愋螤钇玫南嚓P(guān)研究尤其多。

來自認(rèn)知心理學(xué)的刺激示例，DeepMind用它們測量深度神經(jīng)網(wǎng)絡(luò)的形狀偏好。這些圖像是由印第安納大學(xué)認(rèn)知發(fā)展實(shí)驗(yàn)室的Linda Smith慷慨提供的

DeepMind的研究人員所用的經(jīng)典形狀偏好實(shí)驗(yàn)是這樣進(jìn)行的：給深度神經(jīng)網(wǎng)絡(luò)展示三個物體的照片，一個試驗(yàn)物體、一個形狀匹配物體（跟試驗(yàn)物體的形狀相同）、還有一個顏色匹配物體（跟試驗(yàn)物體的顏色相同、形狀不同）。然后把形狀偏好定義為試驗(yàn)物體和形狀匹配物體被網(wǎng)絡(luò)劃分為同一類的情況出現(xiàn)的比例，從而進(jìn)行測量。

實(shí)驗(yàn)中用到的圖像就是印第安納大學(xué)認(rèn)知發(fā)展實(shí)驗(yàn)室的人類實(shí)驗(yàn)中所用的圖像。

這個認(rèn)知心理學(xué)實(shí)驗(yàn)的概要，運(yùn)用了匹配網(wǎng)絡(luò)。匹配網(wǎng)絡(luò)會把試驗(yàn)圖片（左側(cè)）和圖像A或者B（上方中間或者上方右側(cè)）進(jìn)行匹配。輸出（右下方）就取決于這個匹配網(wǎng)絡(luò)的形狀偏好。

DeepMind團(tuán)隊(duì)用他們的深度神經(jīng)網(wǎng)絡(luò)（匹配網(wǎng)絡(luò)和一個基準(zhǔn)Inception模型）進(jìn)行了實(shí)驗(yàn)，發(fā)現(xiàn)他們的網(wǎng)絡(luò)對物體形狀的偏好比顏色或者材質(zhì)的偏好強(qiáng)得多，就像人類一樣。換句話說，它們確實(shí)有“形狀偏好”。

這種結(jié)果就表明，匹配網(wǎng)絡(luò)和Inception分類器中都用到對形狀的歸納偏好來消除錯誤的假設(shè)，讓研究者對這些網(wǎng)絡(luò)解決一次性詞匯學(xué)習(xí)的方法有了一個明確的了解。

除了形狀偏向，DeepMind團(tuán)隊(duì)還發(fā)現(xiàn)了一些有意思的事情：

• 他們發(fā)現(xiàn)形狀偏好在網(wǎng)絡(luò)的早期訓(xùn)練中逐漸出現(xiàn)。這讓人聯(lián)想到人類形狀偏好的出現(xiàn)：心理學(xué)家發(fā)現(xiàn)更小的小孩比大一些的小孩的形狀偏好要弱，成年人的形狀偏好***烈。

• 他們發(fā)現(xiàn)選用不同的隨機(jī)種子做初始化和訓(xùn)練會導(dǎo)致網(wǎng)絡(luò)的偏好程度也有所不同。這說明當(dāng)研究深度學(xué)習(xí)系統(tǒng)并做出結(jié)論時，研究的樣本數(shù)量需要很大才行，就像心理學(xué)家已經(jīng)知道不能只研究單個對象就得出結(jié)論。

• 他們發(fā)現(xiàn)即便幾個網(wǎng)絡(luò)的形狀偏好有很大區(qū)別，它們的一次性詞匯學(xué)習(xí)表現(xiàn)卻都差不多，說明不同的網(wǎng)絡(luò)可以找到很多種同樣有效的方法解決復(fù)雜問題。

這種偏好在標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)架構(gòu)中就存在，但以前沒有人認(rèn)識到過。此次發(fā)現(xiàn)了這種偏好，表明了用人類創(chuàng)立的認(rèn)知心理學(xué)闡釋神經(jīng)網(wǎng)絡(luò)解題方案的潛力。其它心理學(xué)領(lǐng)域的研究也有可能起到幫助，情景記憶文獻(xiàn)中的觀點(diǎn)可能可以幫助理解情景記憶架構(gòu)，語義認(rèn)知文獻(xiàn)中的方法可能可以幫助理解近期的概念形成模型，以上在內(nèi)的許多心理學(xué)領(lǐng)域都有豐富的文獻(xiàn)，很有可能會給人類帶來強(qiáng)有力的新工具，幫助解決“黑箱”的問題，也讓人類更好地理解神經(jīng)網(wǎng)絡(luò)的各種行為。

論文地址：https://arxiv.org/abs/1706.08606

via DeepMind Blog ，雷鋒網(wǎng) AI 科技評論編譯