[[273454]]

像許多藥物一樣，專門用于保持頭腦清醒的藥物莫達(dá)非尼在包裝里配了一份折疊起來的小小說明書，其中的主要內(nèi)容包括說明與注意事項(xiàng)、藥物分子結(jié)構(gòu)等等。精神藥品基本都是這個(gè)套路。然而，在說明書的“起效機(jī)制(Mechanism of Action)”部分卻有著一行讓人有點(diǎn)糾結(jié)的小字：“莫達(dá)非尼使人頭腦清醒效果的機(jī)制尚不明確。”

這種情況其實(shí)并不罕見。目前已經(jīng)有許多獲得了監(jiān)管部門批準(zhǔn)并得到廣泛使用的藥物，其起效機(jī)制一直沒能得到嚴(yán)格證明。在藥物發(fā)現(xiàn)的過程中，研究人員通常需要反復(fù)試驗(yàn)以解開這個(gè)謎團(tuán)。例如，每一年在培養(yǎng)的細(xì)胞或動(dòng)物個(gè)體身上測試任意數(shù)量的新藥物質(zhì);而后將其中最好、最安全的配合推向人體實(shí)驗(yàn)階段。在某些情況下，藥物的成功能夠激發(fā)新的后續(xù)研究，并最終讓我們了解到其起效方式。

但在另一些情況下，難題似乎永遠(yuǎn)無法解開。阿司匹林早在1897年就被發(fā)現(xiàn)，然而直到1995年，人們才真正找到令人信服的藥效機(jī)理解釋。醫(yī)學(xué)中的其它層面也存在著類似的現(xiàn)象：深部腦刺激技術(shù)允許治療人員在患有特定運(yùn)動(dòng)障礙(例如帕金森病)的病人腦中植入電極，且已經(jīng)擁有超過20年的廣泛應(yīng)用背景。有些人甚至認(rèn)為這項(xiàng)技術(shù)可以用于其它目的——包括常規(guī)認(rèn)知增強(qiáng)，但卻沒人說得清其到底如何起效。

這種先回答、后解釋的藥物發(fā)現(xiàn)方法帶來的新問題，我將其稱為知識(shí)債務(wù)(intellectual debt)。具體來講，我們可能會(huì)在不清楚其起效原理的情況下發(fā)現(xiàn)了藥方，而后利用洞察力對(duì)底層機(jī)制進(jìn)行假設(shè)，最后計(jì)算得出正確結(jié)論。在某些情況下，我們能夠快速償還這筆知識(shí)債務(wù)，但有時(shí)候我們可能要經(jīng)過長達(dá)數(shù)十年的痛苦摸索——期間只能繼續(xù)“渾渾噩噩”地依仗這種尚未被解謎的知識(shí)成果。

過去，知識(shí)債務(wù)的解決一直局限于某些能夠反復(fù)進(jìn)行實(shí)驗(yàn)的領(lǐng)域，特別是醫(yī)學(xué)。但目前的情況正在改變，人工智能——特別是機(jī)器學(xué)習(xí)——這一新興技術(shù)的崛起，正在快速提升我們?nèi)祟惖恼w知識(shí)水平。

機(jī)器學(xué)習(xí)系統(tǒng)能夠從浩如煙海的信息當(dāng)中提取數(shù)據(jù)模式，而這些模式將幫助我們?yōu)槟切┹^為模糊的開放性問題找到答案。如果利用有貓與無貓標(biāo)記圖片對(duì)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，它就能區(qū)分貓和其它動(dòng)物;如果我們利用醫(yī)療記錄訓(xùn)練模型，其則可嘗試預(yù)測入院病人的死亡可能性。然而，大多數(shù)機(jī)器學(xué)習(xí)系統(tǒng)無法發(fā)現(xiàn)其中的因果機(jī)制，其更像是一套用于統(tǒng)計(jì)相關(guān)性的引擎。這些系統(tǒng)無法解釋自己為何認(rèn)為某些患者的死亡率更高，因?yàn)樗鼈儧]有真正意義上的“思維”能力，而僅僅是具備回答問題的能力。當(dāng)我們將這類系統(tǒng)的見解融入日常生活時(shí)，就會(huì)發(fā)現(xiàn)自己承擔(dān)的知識(shí)債務(wù)開始快速增長。

藥物發(fā)現(xiàn)中的無理論進(jìn)展向我們證明，在某些情況下，知識(shí)債務(wù)是一種合理甚至必要的過渡產(chǎn)物。盡管我們還無法從根本上解釋起效機(jī)制，但這些成果已經(jīng)挽救了數(shù)以百萬計(jì)人類的生命，并讓我們的生活更加美好。很少有人會(huì)因?yàn)椴磺宄幮г矶芙^服用能夠拯救生命的藥物——甚至在吃阿司匹林的時(shí)候，大家也不會(huì)為此擔(dān)憂。

但必須承認(rèn)，知識(shí)債務(wù)的積累也有不利因素。當(dāng)大量原理未知型藥物彼此糾纏起來，發(fā)現(xiàn)其彼此之間不良作用的測試也開始呈指數(shù)級(jí)增長。(如果了解藥物的起效原理，我們就能夠事先預(yù)測這些負(fù)面相互作用。)

因此，在實(shí)踐當(dāng)中，某些新藥物上市之后會(huì)與原有藥物發(fā)生反應(yīng)，接下來就是兩家公司陷入訴訟泥潭，并最終導(dǎo)致藥品退出市場。從理解角度看，我們應(yīng)該通過一個(gè)個(gè)案例累積起與新藥相關(guān)的認(rèn)知，并逐步解決知識(shí)債務(wù)問題。然而，知識(shí)債務(wù)并非孤立存在;如果沒有跨過第一原理這道門檻，在不同領(lǐng)域發(fā)現(xiàn)及應(yīng)用的答案都可能以無法預(yù)測的方式帶來難以想象的復(fù)雜性問題。

通過機(jī)器學(xué)習(xí)產(chǎn)生的知識(shí)債務(wù)，在風(fēng)險(xiǎn)上遠(yuǎn)遠(yuǎn)超過了以往來自舊式試驗(yàn)與錯(cuò)誤嘗試的同類債務(wù)。這是因?yàn)榇蠖鄶?shù)機(jī)器學(xué)習(xí)模型都無法對(duì)當(dāng)前判斷給出理由性解釋，因此如果不對(duì)它們提供的答案進(jìn)行獨(dú)立判斷，我們就無法得知它們在哪些用例中犯了錯(cuò)誤。雖然在經(jīng)過嚴(yán)格訓(xùn)練的系統(tǒng)中，這種錯(cuò)誤非常少見;但是，我們?nèi)杂斜匾鞔_理解系統(tǒng)的判斷過程，否則惡意人士將通過種種方式故意觸發(fā)錯(cuò)誤，進(jìn)而造成嚴(yán)重的負(fù)面后果。

下面來思考圖像識(shí)別場景。十年之前，計(jì)算機(jī)一般很難認(rèn)出照片中的物體。如今，圖像搜索引擎就如同我們?nèi)粘Ｊ褂玫谋姸嘞到y(tǒng)一樣，同樣基于極其強(qiáng)大的機(jī)器學(xué)習(xí)模型。谷歌的圖像搜索服務(wù)就依賴于名為Inception的神經(jīng)網(wǎng)絡(luò)。2017年，麻省理工學(xué)院的LabSix(一支由本科生與研究生組成的研究小組)就成功篡改了一張小貓圖片中的像素——雖然其看起來仍然像是人類認(rèn)知中的貓，但I(xiàn)nception以99.99%的確定性認(rèn)為這是一張牛油果照片。(根據(jù)計(jì)算，Inception認(rèn)為可能性次高的結(jié)果分別為西蘭花以及砂漿。)這又回歸了我們之前提到的問題：當(dāng)我們無法解釋機(jī)器學(xué)習(xí)系統(tǒng)依靠哪些特征進(jìn)行圖片判斷時(shí)，一旦有人提供特制或者篡改過的數(shù)據(jù)，我們也無法輕松預(yù)測系統(tǒng)何時(shí)會(huì)犯下錯(cuò)誤。這樣的系統(tǒng)當(dāng)中可能存在著未知的準(zhǔn)確性差距，而這無疑將給聰明且堅(jiān)定的攻擊者留下可乘之機(jī)。

隨著對(duì)機(jī)器學(xué)習(xí)系統(tǒng)所產(chǎn)生知識(shí)的運(yùn)用，這種差距將產(chǎn)生愈發(fā)嚴(yán)重的影響。目前訓(xùn)練出的醫(yī)療保健AI，已經(jīng)能夠成功對(duì)皮膚病變進(jìn)行良性與惡性分類。然而，在哈佛醫(yī)學(xué)院與麻省理工研究團(tuán)隊(duì)今年出版的一篇論文中，研究人員們發(fā)現(xiàn)此類AI也有可能受到欺騙——基本情況與上文提到的小貓變牛油果案例類似。(除此之外，攻擊者也可能利用這些漏洞騙取高額保險(xiǎn)賠償。)出于強(qiáng)大預(yù)測能力的誘惑，我們可能會(huì)急于將其作為人類醫(yī)師的替代性方案;但必須承認(rèn)，AI模型極易受到劫持，而且我們沒有什么簡單方法能夠驗(yàn)證其產(chǎn)生的答案。

我們能否為知識(shí)債務(wù)創(chuàng)建一份資產(chǎn)負(fù)債表，并借此跟蹤那些無理論知識(shí)被運(yùn)用在哪里以及哪些系統(tǒng)當(dāng)中?在初步統(tǒng)計(jì)之后，我們發(fā)現(xiàn)不同知識(shí)債務(wù)所引發(fā)的潛在影響也有所區(qū)別。如果是AI生成的全新批薩配方，那么管他什么潛在影響，直接嘗嘗味道就可以;但相比之下，如果我們打算采納AI提出的健康預(yù)測與治療建議，那么更充分的信息無疑非常必要。

要想建立并維護(hù)好這份覆蓋整個(gè)人類社會(huì)的知識(shí)債務(wù)表，我們可能首先得改進(jìn)原本主要用于處理商業(yè)機(jī)密及其它知識(shí)成果的相關(guān)方法。在城市，建筑法規(guī)要求房屋業(yè)主上報(bào)他們的裝修計(jì)劃;同樣的，我們可能也得要求各科研機(jī)構(gòu)或者大學(xué)公開他們實(shí)際使用的隱藏?cái)?shù)據(jù)集與算法。如此一來，研究人員們將能夠著手探索我們所依賴的模型及基礎(chǔ)數(shù)據(jù)，并通過建立理論搶在知識(shí)債務(wù)引發(fā)嚴(yán)重錯(cuò)誤及漏洞之前完成修復(fù)工作。

機(jī)器學(xué)習(xí)模型已經(jīng)愈發(fā)普遍，任何人都能夠創(chuàng)建起自己的機(jī)器學(xué)習(xí)模型，這也讓統(tǒng)計(jì)審查工作變得越來越困難。但這仍然非常重要，因?yàn)楣铝⑾到y(tǒng)雖然能夠產(chǎn)生有用的結(jié)果，但這些系統(tǒng)本身卻不會(huì)孤立地存在：當(dāng)AI技術(shù)收集并提取真實(shí)世界中的數(shù)據(jù)時(shí)，它們也會(huì)產(chǎn)生屬于自己的數(shù)據(jù)，而其中大部分結(jié)論都會(huì)作為其它系統(tǒng)的輸入內(nèi)容。正如原理未知的藥物之間可能發(fā)生相互影響一樣，債務(wù)負(fù)擔(dān)算法也將面對(duì)類似的挑戰(zhàn)。

另外，即使是最簡單的交互也可能引發(fā)麻煩。2011年，一位名叫Michael Eisen的生物學(xué)家從他的一名學(xué)生身上發(fā)現(xiàn)了有趣的案例：一名毫不起眼的舊書《飛翔的奧秘：動(dòng)物設(shè)計(jì)中的遺傳學(xué)(The Making of a Fly: The Genetics of Animal Design)》在亞馬遜網(wǎng)站上最低的開價(jià)竟然高達(dá)170萬美元——還要再加上3.99美元的運(yùn)費(fèi)。第二低的價(jià)格則迅速攀升至210萬美元。這兩位賣家都是亞馬遜上的老店，店鋪里也都有著非常積極的評(píng)論。而當(dāng)Eisen連續(xù)幾天訪問該書的頁面時(shí)，他發(fā)現(xiàn)價(jià)格一直在不斷增加，且似乎遵循著一定的規(guī)律。賣家甲的價(jià)格一直是賣家乙價(jià)格的99.83%;而第二天，賣家乙的價(jià)格則會(huì)上調(diào)至賣家甲前一天價(jià)格的127.059%。Eisen推斷，賣家甲肯定是真的擁有這本書，而且打算長期占據(jù)亞馬遜上最低的價(jià)格。與此同時(shí)，賣家乙沒有這本書，所以把價(jià)格定得更高;這樣如果有人購買，賣家乙可以當(dāng)一把“二道販子”，直接拍下賣家甲的商品。

這兩位賣家的推定策略都非常理性，但雙方采取的算法在相互作用之后產(chǎn)生了不合常理的結(jié)果。同理可知，成千上萬套機(jī)器學(xué)習(xí)系統(tǒng)在實(shí)際運(yùn)行當(dāng)中幾乎必然會(huì)帶來更難以預(yù)測的結(jié)果。正在大規(guī)模部署前沿機(jī)器學(xué)習(xí)系統(tǒng)的金融市場，為這類問題提供了理想的溫床。2010年，在令人痛苦的36分鐘之內(nèi)，由算法交易驅(qū)動(dòng)的“閃電崩盤”事件從美國各大主要經(jīng)濟(jì)指數(shù)中蒸發(fā)掉超過1萬億美元財(cái)富。去年秋季，J.P.摩根分析師Marko Kolanovic認(rèn)為，這種崩潰事件很可能再次發(fā)生，因?yàn)槿缃窀嘟灰组_始以自動(dòng)化系統(tǒng)為基礎(chǔ)。知識(shí)債務(wù)可能在這些系統(tǒng)之間相互碰撞并不斷積累，甚至影響到彼此并未直接交互的系統(tǒng)。如果沒有類似于資產(chǎn)負(fù)債表的制度存在，我們將無法預(yù)測或者追溯事件的前因后果，更無法確定我們是否值得承擔(dān)知識(shí)債務(wù)、我們又能夠承擔(dān)多少知識(shí)債務(wù)。

知識(shí)債務(wù)的增加，也有可能改變我們對(duì)基礎(chǔ)科學(xué)以及對(duì)應(yīng)用技術(shù)的思考方式。與粒子加速器這類由政府機(jī)構(gòu)斥巨資興建、并由學(xué)術(shù)研究機(jī)構(gòu)代為運(yùn)營的項(xiàng)目不同，機(jī)器學(xué)習(xí)工具能夠快速在私營企業(yè)與學(xué)術(shù)組織內(nèi)傳播。實(shí)際上，谷歌與Facebook獲取預(yù)測性數(shù)據(jù)素材的能力要遠(yuǎn)超任何計(jì)算機(jī)科學(xué)或者政府統(tǒng)計(jì)部門。在生意人來看，這些知識(shí)能不能解釋好像沒什么關(guān)系，但知識(shí)債務(wù)在客觀上仍將快速累積。最終，問題將落在企業(yè)手中，而非真正有意解決這一切的學(xué)術(shù)研究人員。

可以想象，源自機(jī)器學(xué)習(xí)的知識(shí)不斷增長，也將使得贊助資金越來越多地涌向那些樂于利用AI技術(shù)(而非以人工方式慢慢推進(jìn)項(xiàng)目)的研究人員手中。去年12月，研究蛋白質(zhì)折疊的研究員Mohammed AlQuraishi撰寫了一篇論文，探討自己在所在領(lǐng)域的最新成果：創(chuàng)建一套能夠以高于人類研究員的準(zhǔn)確度預(yù)測蛋白質(zhì)折疊情況的機(jī)器學(xué)習(xí)模型。AlQuiraishi對(duì)自己無法探明數(shù)據(jù)理論感到遺憾，并表示自己投入大量精力但仍一無所獲。他在接受采訪時(shí)表示，“那些能夠提供新的分析洞察力概念的論文或者相關(guān)成果，實(shí)際未能得到同樣的重視。”隨著機(jī)器發(fā)現(xiàn)速度的加快，人們可能認(rèn)為這些堅(jiān)持舊有研究方式的家伙是一幫異類——多此一舉而且無可救藥地落后于時(shí)代。相反，針對(duì)某一特定領(lǐng)域的知識(shí)發(fā)現(xiàn)類機(jī)器學(xué)習(xí)模型則比知識(shí)本身更有價(jià)值，因?yàn)樗鼈兡軌蚋斓貫樵撝黝}提供答案。

金融債務(wù)的控制權(quán)會(huì)轉(zhuǎn)移——由貸款人到貸方，從未來到過去等。同樣的，知識(shí)債務(wù)也有可能發(fā)生控制權(quán)轉(zhuǎn)移。當(dāng)這個(gè)由未知知識(shí)構(gòu)成的世界逐步轉(zhuǎn)化為缺少明確因果關(guān)系的世界，我們卻又不得不依賴這種模糊的方式告訴自己該做什么、什么時(shí)候去做。例如，高校的招生委員會(huì)可能會(huì)把篩選工作交給機(jī)器學(xué)習(xí)技術(shù)，而后者將負(fù)責(zé)把申請人的努力與不確定性轉(zhuǎn)化為清晰的模式;這種模式也許將優(yōu)化大學(xué)生群體，使他們不僅更有能力在學(xué)業(yè)上取得成功，同時(shí)也建立起和諧的師生關(guān)系并樂于為學(xué)校提供慷慨的捐贈(zèng)。此外，未來我們理解世界的唯一方式，可能是利用自己的AI神經(jīng)網(wǎng)絡(luò)調(diào)整社交媒體上的個(gè)人資料，從而讓自己更輕松地融入目標(biāo)群體。

也許這一切都將成為現(xiàn)實(shí)，但其反過來又會(huì)引發(fā)新的問題。大多數(shù)對(duì)于人工智能的批評(píng)意見，主要集中在它們可能犯下的錯(cuò)誤：它會(huì)創(chuàng)造或復(fù)制偏見;它會(huì)犯錯(cuò)誤;也可能被用于實(shí)現(xiàn)邪惡的目的。但除此之外，我們還有其它值得擔(dān)心的問題，例如：就算AI做對(duì)了，又將意味著什么?