人類通常很擅長(zhǎng)識(shí)別何時(shí)出錯(cuò)，但人工智能系統(tǒng)則不然。根據(jù)一項(xiàng)新的研究，由于存在百年歷史的數(shù)學(xué)悖論，人工智能通常會(huì)受到固有的限制。

像一些人一樣，人工智能系統(tǒng)的自信程度往往遠(yuǎn)遠(yuǎn)超過(guò)他們的實(shí)際能力。就像一個(gè)過(guò)度自信的人一樣，許多人工智能系統(tǒng)不知道自己什么時(shí)候犯了錯(cuò)誤。有時(shí)，人工智能系統(tǒng)在犯錯(cuò)時(shí)意識(shí)到比產(chǎn)生正確結(jié)果更困難。

劍橋大學(xué)和奧斯陸大學(xué)的研究人員表示，不穩(wěn)定性是現(xiàn)代人工智能的致命弱點(diǎn)，一個(gè)數(shù)學(xué)悖論顯示了人工智能的局限性。神經(jīng)網(wǎng)絡(luò)是人工智能中最先進(jìn)的工具，大致模仿了大腦中神經(jīng)元之間的聯(lián)系。研究人員表明，存在穩(wěn)定和準(zhǔn)確的神經(jīng)網(wǎng)絡(luò)存在的問(wèn)題，但沒(méi)有算法可以產(chǎn)生這樣的網(wǎng)絡(luò)。只有在特定情況下，算法才能計(jì)算出穩(wěn)定準(zhǔn)確的神經(jīng)網(wǎng)絡(luò)。

研究人員提出了一種分類理論，描述了何時(shí)可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)以在某些特定條件下提供可信賴的 AI 系統(tǒng)。他們的結(jié)果發(fā)表在《美國(guó)國(guó)家科學(xué)院院刊》上。

深度學(xué)習(xí)是用于模式識(shí)別的領(lǐng)先人工智能技術(shù)，一直是眾多令人窒息的頭條新聞的主題。示例包括比醫(yī)生更準(zhǔn)確地診斷疾病或通過(guò)自動(dòng)駕駛預(yù)防交通事故。然而，許多深度學(xué)習(xí)系統(tǒng)是不可信且容易被愚弄的。

劍橋大學(xué)應(yīng)用數(shù)學(xué)和理論物理系的合著者安德斯·漢森(Anders Hansen)教授說(shuō)：“許多人工智能系統(tǒng)不穩(wěn)定，它正在成為一個(gè)主要問(wèn)題，尤其是它們?cè)絹?lái)越多地用于疾病診斷或自動(dòng)駕駛汽車等高風(fēng)險(xiǎn)領(lǐng)域?！?. “如果人工智能系統(tǒng)被用于一旦出錯(cuò)會(huì)造成真正傷害的領(lǐng)域，那么對(duì)這些系統(tǒng)的信任必須是重中之重。”

研究人員發(fā)現(xiàn)的悖論可以追溯到 20 世紀(jì)的兩位數(shù)學(xué)巨人：艾倫·圖靈和庫(kù)爾特·哥德?tīng)枴?0世紀(jì)初，數(shù)學(xué)家試圖證明數(shù)學(xué)是科學(xué)的終極一致語(yǔ)言。然而，圖靈和哥德?tīng)栒故玖藬?shù)學(xué)核心的一個(gè)悖論：無(wú)法證明某些數(shù)學(xué)陳述是真還是假，一些計(jì)算問(wèn)題無(wú)法用算法解決。而且，只要一個(gè)數(shù)學(xué)系統(tǒng)足夠豐富，可以描述我們?cè)趯W(xué)校學(xué)習(xí)的算術(shù)，它就無(wú)法證明其自身的一致性。

幾十年后，數(shù)學(xué)家史蒂夫·斯梅爾(Steve Smale)提出了 21 世紀(jì) 18 個(gè)未解決的數(shù)學(xué)問(wèn)題的清單。第 18個(gè)問(wèn)題涉及人類和機(jī)器的智能極限。

“圖靈和哥德?tīng)柺紫劝l(fā)現(xiàn)的悖論現(xiàn)在已經(jīng)被 Smale 和其他人帶到了人工智能的世界，”應(yīng)用數(shù)學(xué)和理論物理系的合著者 科爾布魯克(Matthew Colbrook) 博士說(shuō)?！皵?shù)學(xué)存在固有的基本限制，同樣，人工智能算法也無(wú)法解決某些問(wèn)題?！?/p>

研究人員說(shuō)，由于這個(gè)悖論，在某些情況下可以存在良好的神經(jīng)網(wǎng)絡(luò)，但無(wú)法建立一個(gè)本質(zhì)上值得信賴的神經(jīng)網(wǎng)絡(luò)。“無(wú)論你的數(shù)據(jù)多么準(zhǔn)確，你永遠(yuǎn)無(wú)法獲得構(gòu)建所需神經(jīng)網(wǎng)絡(luò)的完美信息，”來(lái)自?shī)W斯陸大學(xué)的合著者 Vegard Antun 博士說(shuō)。

無(wú)論訓(xùn)練數(shù)據(jù)量如何，都無(wú)法計(jì)算出良好的現(xiàn)有神經(jīng)網(wǎng)絡(luò)。無(wú)論算法可以訪問(wèn)多少數(shù)據(jù)，它都不會(huì)產(chǎn)生所需的網(wǎng)絡(luò)?！斑@類似于圖靈的論點(diǎn)：無(wú)論計(jì)算能力和運(yùn)行時(shí)間如何，都存在無(wú)法解決的計(jì)算問(wèn)題，”漢森說(shuō)。

研究人員表示，并非所有人工智能都存在固有缺陷，但它僅在特定領(lǐng)域使用特定方法才可靠?！皢?wèn)題在于你需要保證的領(lǐng)域，因?yàn)樵S多人工智能系統(tǒng)都是一個(gè)黑匣子，”科爾布魯克說(shuō)?！霸谀承┣闆r下，人工智能犯錯(cuò)是完全可以的，但它需要誠(chéng)實(shí)地對(duì)待它。這不是我們?cè)谠S多系統(tǒng)中看到的——沒(méi)有辦法知道他們什么時(shí)候更有信心或沒(méi)有信心決定。”

“目前，人工智能系統(tǒng)有時(shí)會(huì)對(duì)它們產(chǎn)生一些猜測(cè)，”漢森說(shuō)?！澳銍L試一些東西，如果它不起作用，你添加更多的東西，希望它能起作用。在某些時(shí)候，你會(huì)厭倦沒(méi)有得到你想要的東西，你會(huì)嘗試不同的方法。重要的是“了解不同方法的局限性。我們處于人工智能的實(shí)際成功遠(yuǎn)遠(yuǎn)領(lǐng)先于理論和理解的階段。需要一個(gè)理解人工智能計(jì)算基礎(chǔ)的程序來(lái)彌合這一差距?！?/p>

“當(dāng) 20世紀(jì)的數(shù)學(xué)家發(fā)現(xiàn)不同的悖論時(shí)，他們并沒(méi)有停止研究數(shù)學(xué)。他們只需要找到新的路徑，因?yàn)樗麄兞私饩窒扌?，”科爾布魯克說(shuō)?！皩?duì)于人工智能來(lái)說(shuō)，可能需要改變路徑或開(kāi)發(fā)新路徑，以構(gòu)建能夠以可信賴和透明的方式解決問(wèn)題的系統(tǒng)，同時(shí)了解它們的局限性?！?/p>

研究人員的下一個(gè)階段是結(jié)合近似理論、數(shù)值分析和計(jì)算基礎(chǔ)，以確定哪些神經(jīng)網(wǎng)絡(luò)可以通過(guò)算法計(jì)算，哪些可以穩(wěn)定可信。正如哥德?tīng)柡蛨D靈提出的關(guān)于數(shù)學(xué)和計(jì)算機(jī)局限性的悖論導(dǎo)致了豐富的基礎(chǔ)理論——描述了數(shù)學(xué)和計(jì)算的局限性和可能性——也許類似的基礎(chǔ)理論可能會(huì)在人工智能中開(kāi)花結(jié)果。