深度卷積神經(jīng)網(wǎng)絡(luò)（DCNN）看待物件的方式與人類(lèi)不同，約克大學(xué)教授James Elder的研究團(tuán)隊(duì)認(rèn)為，深度學(xué)習(xí)模型無(wú)法捕捉人體形狀感知獲取的構(gòu)形特征。

到底人類(lèi)大腦和DCNN是如何感知整體的？又是如何感知對(duì)象特性的？科學(xué)家用所謂的“Frankensteins”視覺(jué)刺激來(lái)檢測(cè)。James Elder說(shuō)：“所謂的Frankensteins就是將整體拆成部分，讓部分以錯(cuò)誤的方式整合在一起，從局部看它們是正確的，但部分放在了錯(cuò)誤的位置?！?/p>

研究發(fā)現(xiàn)，雖然Frankensteins會(huì)迷惑人類(lèi)視覺(jué)系統(tǒng)，但DCNN對(duì)于錯(cuò)誤的配置不敏感。

比如一張熊的圖片，人眼看到是熊，AI看到也是熊。將照片從中間切開(kāi)，變成兩半，不要連在一起，人眼無(wú)法識(shí)別，AI也無(wú)法識(shí)別。再將上下兩半以錯(cuò)誤方式拼在一起，人眼無(wú)法識(shí)別，看到的是不像熊的動(dòng)物，如同怪物，但AI卻將它識(shí)別為熊。

這說(shuō)明什么？說(shuō)明AI對(duì)于被配置對(duì)象的特征不夠敏感。

James Elder說(shuō)：“我們的研究解釋了在特定條件下為什么AI模型會(huì)失敗，要想理解大腦中的視覺(jué)處理是如何進(jìn)行的，我們要考慮對(duì)象識(shí)別之外的任務(wù)。在解決復(fù)雜識(shí)別難題時(shí)，深度模型會(huì)走捷徑。盡管許多時(shí)候走捷徑是可行的，但到了真實(shí)世界的AI應(yīng)用就有些危險(xiǎn)了。我們與行業(yè)和政府合作伙伴正在開(kāi)發(fā)應(yīng)用于真實(shí)世界的AI應(yīng)用?！?/p>

正如在識(shí)別熊時(shí)，熊的圖片各部分錯(cuò)誤配置，AI還是會(huì)將拼出的怪物識(shí)別為熊。

讓我們看看AI交通視頻安全系統(tǒng)。繁忙交通系統(tǒng)中有很多東西，比如汽車(chē)、自行車(chē)、行人，它們相互交織，成為各自的障礙物，這些東西像斷開(kāi)的碎片一樣進(jìn)入駕駛員的視覺(jué)系統(tǒng)。大腦自動(dòng)處理，將各種碎片分組，確定正確的類(lèi)別，判斷對(duì)象的位置。AI交通監(jiān)測(cè)系統(tǒng)差很多，它只能感知個(gè)體碎片，所以會(huì)存在很大風(fēng)險(xiǎn)。

按照研究人員的說(shuō)法，優(yōu)化訓(xùn)練和架構(gòu)，想讓AI網(wǎng)絡(luò)更像大腦，這樣的研究對(duì)于提高AI的配置處理能力沒(méi)有太大幫助。人類(lèi)是怎樣一次又一次判斷對(duì)象的？AI網(wǎng)絡(luò)無(wú)法精準(zhǔn)預(yù)測(cè)。人類(lèi)視覺(jué)系統(tǒng)的配置能力高度敏感，如果AI想與人類(lèi)視覺(jué)系匹敵，它可能需要在類(lèi)別識(shí)別之外做更多的事。

科學(xué)家的警告也許是有道理的，現(xiàn)在最聰明的AI也遠(yuǎn)遠(yuǎn)比不上人類(lèi)器官，連視覺(jué)系統(tǒng)都比不上，更別說(shuō)大腦，如果稍有不慎，AI可能會(huì)造成嚴(yán)重惡果。

幾年前，有一個(gè)名叫Sophia的人形機(jī)器人曾經(jīng)大紅大紫。在一次會(huì)議上，Sophia接受人類(lèi)的采訪。人類(lèi)主持人問(wèn)Sophia：“你想毀滅人類(lèi)嗎？”Sophia回答說(shuō)：“好的，我會(huì)毀滅人類(lèi)。”聽(tīng)眾大笑。有人猜測(cè)Sophia的回答是預(yù)先設(shè)定好的，因?yàn)镾ophia還沒(méi)有先進(jìn)到可以做決定并回答這樣的問(wèn)題，不過(guò)也有人相信這一回答并不是預(yù)先設(shè)定的。

在另一次活動(dòng)中，Sophia是這樣回答的：“不要擔(dān)心，如果你們對(duì)我好，我也會(huì)對(duì)你們很好的。你們應(yīng)該像對(duì)待智能系統(tǒng)一樣對(duì)我。”

現(xiàn)在AI開(kāi)始慢慢流行，但結(jié)果并非總是正面積極的?；艚鹋c馬斯克就曾表達(dá)擔(dān)憂，擔(dān)心AI會(huì)帶來(lái)破壞。就眼下來(lái)看，擔(dān)憂AI毀滅人類(lèi)可能有些夸大，但警惕還是應(yīng)該的。

隨著時(shí)間的推移，也許AI會(huì)變得像人類(lèi)一樣聰明，甚至超越人類(lèi)。不過(guò)讓AI模擬人類(lèi)感知可能是很棘手的事。對(duì)于人類(lèi)來(lái)說(shuō)，有些事習(xí)以為常，做起來(lái)很容易，科學(xué)家訓(xùn)練AI，讓它不斷執(zhí)行某項(xiàng)任務(wù)，做人類(lèi)輕松能做的事。盡管做了很多努力，但現(xiàn)在的AI還是無(wú)法追上人類(lèi)視覺(jué)系統(tǒng)。