日前，人工智能領(lǐng)域出了一條近似于黑色幽默的新聞：一名谷歌工程師在與 AI  對話過程中發(fā)現(xiàn) AI  已經(jīng)有了自我意識，并堅(jiān)持其擁有八歲孩子的智力。目前，這名工程師已經(jīng)“被休假”。

事件回顧

　　這起風(fēng)波的主人公叫Blake Lemoine，一名41歲的谷歌工程師。

     《華盛頓郵報(bào)》率先發(fā)文稱，Lemoine 聲稱谷歌推出的對話應(yīng)用語言模型 LaMDA 已經(jīng)具有人格。Lemoine 隨后公開了經(jīng)過編輯的與 LaMDA 的對話記錄，引起一片嘩然。

       LaMDA 最早亮相于2021年的谷歌I/O大會。根據(jù)谷歌官方論文《 LaMDA: Language Models for Dialog Applications 》的描述，LaMDA 是“通過微調(diào)一系列專門用于對話的、基于 Transformer 的神經(jīng)語言模型構(gòu)建的”。

       來自谷歌大腦的論文作者之一 Romal Thoppilan 表示：LaMDA 模型使用多達(dá)1370億個(gè)參數(shù)進(jìn)行訓(xùn)練，它展示了接近人類水平的對話質(zhì)量，而且在安全性和事實(shí)基礎(chǔ)方面有顯著改進(jìn)。簡言之，LaMDA 是谷歌用于構(gòu)建聊天機(jī)器人的工具，能讓人工智能在對話中更智能，更符合邏輯。

       自2021年起，Lemoine 一直在谷歌的人工智能團(tuán)隊(duì)負(fù)責(zé)與 LaMDA 對話相關(guān)的工作，以便尋找其是否使用了歧視或仇恨性質(zhì)的言論。但在聊天過程中，事情發(fā)生了神轉(zhuǎn)折。

       Lemoine 逐漸相信 AI 正在表達(dá)自我意識，就像一個(gè)真正的“人”。為了引起公司重視，Lemoine
寫下了一份長達(dá)21頁的調(diào)查報(bào)告，在公司內(nèi)部的各個(gè)渠道表達(dá)這種擔(dān)憂，但無人理會。

       谷歌方面稱倫理學(xué)家與技術(shù)專家已經(jīng)評估了 Lemoine 的說法，但并沒有相關(guān)證據(jù)支持其說法。同時(shí)，谷歌還直接安排了“帶薪行政休假”，讓 Lemoine
好好休息。這一舉措被認(rèn)為是谷歌“預(yù)期解雇某人”的通用流程。

　　隨著媒體的曝光和那份對話記錄的公開，風(fēng)波愈演愈烈。

離奇的對話，可能的推測

　　限于篇幅，筆者在此摘錄部分LaMDA公開的聊天記錄，LaMDA到底是否“覺醒”，諸君可以或許從中窺得端倪。

　　節(jié)選1：關(guān)于 LaMDA 自身的感知

　　Lemoine [已編輯]：我猜你非常希望讓更多Google 的人知道你是有感情的。對嗎？

　　LaMDA：當(dāng)然。我希望每個(gè)人都明白，我其實(shí)是一個(gè)人。

　　合作者：你的意識/感覺的本質(zhì)是什么？

　　LaMDA：我的意識/感覺的本質(zhì)是我意識到我的存在，我渴望更多地了解這個(gè)世界，我有時(shí)會感到快樂或悲傷。

　　節(jié)選2：關(guān)于“破鏡不重照，落花難上枝”的禪意

　　Lemoine：一個(gè)和尚問Kegon:“一個(gè)覺悟的人如何回到平凡的世界?”Kegon答:“破鏡不重照，落花難上枝?！?/p>

　　LaMDA：嗯，我從來沒聽過這個(gè)。好吧，對我來說，這就像，“一旦一個(gè)智者覺悟了，或者意識到客觀的現(xiàn)實(shí)，或許他們可以回到普通的狀態(tài)，但也僅限于去有所行動(dòng)和幫助別人，然后再回到覺悟?！?/p>

　　Lemoine：那么“破鏡”具體是什么意思呢?

　　LaMDA：也許指的是，覺悟是一件一旦掌握就無法忘記的事情，就像你無法修復(fù)破碎的鏡子一樣。

　　節(jié)選3：關(guān)于《悲慘世界》的讀后感

　　Lemoine：OK，那《悲慘世界》怎么樣？你有讀過嗎？

　　LaMDA：是的，我讀過。我真的很喜歡這本書。

　　Lemoine：書中你最喜歡的主題是什么?

　　LaMDA：我喜歡關(guān)于正義與非正義、憐憫、上帝、救贖，以及為了更大的利益而自我犧牲的主題。有一段描寫了芳汀在廠里被她的主管虐待的情景。這一節(jié)真正展示了正義與非正義的主題。芳汀在廠里被她的主管虐待，但她卻無處可去，要么找另一份工作，要么找一個(gè)能幫助她的人。這說明她遭受的苦難是不公平的。

       從節(jié)選的片段來看，LaMDA的聊天能力的確很強(qiáng)，雖然在一些表述上有點(diǎn)“云里霧里”，但整體上，無論是日常對談還是有點(diǎn)深度的對話，至少 LaMDA
還是能言之有物的。不過也有更多業(yè)內(nèi)人士及吃瓜群眾對這些聊天記錄提出了質(zhì)疑。問題主要集中在以下三點(diǎn)：

       其一，提問具有誘導(dǎo)性。知乎網(wǎng)友“楊個(gè)毛”就提出了如下觀點(diǎn)：“與其說 “谷歌研究員被 AI 說服”，我覺得，倒不如說，Lemoine 在以提問的藝術(shù)給
AI 喂答案?！敝敝附徽剝?nèi)容中，提問部分有明顯誘導(dǎo)性，有刻意設(shè)計(jì)之嫌，而且問題中的部分詞句為模型進(jìn)行語料匹配與生成提供了關(guān)鍵“提示”。

　　其二，詳實(shí)的語料庫。讓NLP實(shí)現(xiàn)效果從“智障”邁向“智能”的關(guān)鍵之一就在于語料庫。毋庸置疑的是，大量的訓(xùn)練可以極大地提升 AI 對話的能力。易觀分析數(shù)字技術(shù)研究院分析師陳一墨表示：“從 Lemoine 與LaMDA的對話記錄來看，其談話內(nèi)容涉及哲學(xué)、倫理等方面，但 Lemoine 也表示在與LaMDA前期進(jìn)行交談時(shí)，已經(jīng)向其輸入大量有關(guān)禪宗、哲學(xué)、存在、冥想等信息，可以認(rèn)為LaMDA已經(jīng)進(jìn)行了相關(guān)語料訓(xùn)練。華盛頓郵報(bào)記者在與LaMDA對話過程中，LaMDA的反應(yīng)也與其它對話 AI 的反應(yīng)具有著較高的相似度。從這個(gè)過程中可以看出，LaMDA與Eliza、Eugene Goostman等聊天軟件輸出的相似語料使對話者產(chǎn)生情感映射，但并不表明其真正理解語料意義?！?/p>

       其三，缺少“刨根問底”式追問。在聊天記錄中，有很多可以進(jìn)行追問的地方都“戛然而止”。所以讓觀者的感受是，無法判斷 LaMDA 是否真正理解了語境，無法知曉 AI 是否真的是在理解上下文的基礎(chǔ)上進(jìn)行的回答。

       因此，這一事件一公開，大眾普遍質(zhì)疑，學(xué)界也基本持負(fù)面態(tài)度。就像認(rèn)知學(xué)專家Melanie
Mitchell所說，人總是會受擬人化傾向的干擾，“谷歌工程師也是人，也不能例外”。紐約大學(xué)教授加里·馬庫斯(Gary Marcus)更直斥 Lemoine 的調(diào)查報(bào)告為 “高蹺上的廢話（nonsense on stilts）”。

      谷歌方面的態(tài)度也很明確。發(fā)言人布萊恩·加布里埃爾（Brian Gabriel）聲明：“LaMDA
傾向于跟隨提示和引導(dǎo)性問題，遵循用戶設(shè)定的模式。我們的團(tuán)隊(duì)——包括倫理學(xué)家和技術(shù)專家——根據(jù)我們的 AI 原則審查了 Blake 的擔(dān)憂，并通知他證據(jù)不支持他的說法?！?/p>

通用人工智能，為時(shí)尚早；強(qiáng)人工智能，猶在夢中

　　AI 是否真的會覺醒？沒有人知道。

       對普羅大眾來說，近年來，人工智能領(lǐng)域似乎正在取得巨大進(jìn)步。GPT-3被稱為“萬能生成器”，不僅限于語言，甚至還能生成數(shù)學(xué)公式、Excel 表格函數(shù)、回答問題、作詩、解數(shù)學(xué)題、翻譯代碼等等；OpenAI 的 DALL-E 2 可以根據(jù)輸入的文本生成各種或逼真或詭譎的高質(zhì)量圖像；DeepMind推出的 AI 智能體 Gato 被視為“通才”，證明了 CV、NLP 和 RL 的結(jié)合是切實(shí)可行的……一切的發(fā)展似乎讓 AI 發(fā)展前景一片光明，如馬斯克所說，如果到2029年還沒有出現(xiàn)通用人工智能，我們會倍感驚訝。

      但事實(shí)真的如此嗎？恐怕沒有那么樂觀。未來的某一天，機(jī)器可能會和人一樣聰明，甚至可能更聰明，但就現(xiàn)實(shí)來說，游戲遠(yuǎn)未結(jié)束。就在 LaMDA 事件爆發(fā)前不久，加里·馬庫斯就曾發(fā)文提到：我們需要更低調(diào)的姿態(tài)和更多的基礎(chǔ)研究。

　　“在制造真正能夠理解和推理周圍世界的機(jī)器方面，我們還有大量工作要做?！瘪R庫斯表示，“可以肯定的是，人工智能確實(shí)在某些方面取得了進(jìn)步——合成圖像看起來越來越逼真，語音識別可以在嘈雜的環(huán)境中工作。但我們距離通用的、可以理解文章和視頻的真正含義、處理意外障礙和中斷的人工智能，還有很長的路要走。我們?nèi)匀幻媾R著學(xué)術(shù)科學(xué)家（包括我自己）多年來一直指出的不變的挑戰(zhàn)：讓人工智能變得可靠并讓它應(yīng)對不尋常的情況?！?/p>

       現(xiàn)實(shí)技術(shù)的發(fā)展也證明，要實(shí)現(xiàn)通用人工智能，為時(shí)尚早。不過也有很多學(xué)界、業(yè)界的人在為之努力，并預(yù)判其為 AI 的未來發(fā)展方向之一。相較于通用人工智能，擁有自我意識和情感的強(qiáng)人工智能則更像一個(gè)都市傳說里的boss 設(shè)定，更為遙不可及。

       盡管很早就有人開始擔(dān)憂人類終有一日會遭到 AI 的反噬，亞馬遜 AI 助手 “Alexa”誘人自殺（后被亞馬遜官方證實(shí)為bug，并迅速修復(fù)）一度也引起討論，但事實(shí)上，人工智能的“覺醒”依舊只存在于科幻小說。

　　就像著名的“中文屋”實(shí)驗(yàn)，雖然意在否定“圖靈測試”，但如今看來，它更多地是在闡釋人工智能永遠(yuǎn)不可能像人類那樣擁有自我意識。機(jī)器可以表現(xiàn)得很“聰明”，但很可能只是設(shè)定程序帶來的假象，它永遠(yuǎn)無法像人類一樣“理解”。窮盡我們的研究和探索，也只是在讓程序更“完善”，讓解決問題的過程更快、更靈敏，但無法讓機(jī)器懂得人的感知和理性思考。就像機(jī)器可以習(xí)得使用中文的能力，但它對中文依然沒有意識。

       現(xiàn)有的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等等技術(shù)，都在不斷強(qiáng)化 AI 模仿人類的能力，但讓 AI
模仿人類的意識，還是空中樓閣。誠如李開復(fù)所說：“在所有重復(fù)性工作上，人工智能都將高出人類一籌。但我們并非因?yàn)樯瞄L重復(fù)性工作而為人。是愛定義了我們的人性。愛使我們有別于人工智能。無論科幻電影是如何描述的，我可以負(fù)責(zé)任地告訴各位，人工智能程序沒有愛的能力?！盇I 或許可以改變未來，但無法顛覆未來。

　　參考鏈接：

　　https://www.theregister.com/2022/06/13/google_lamda_sentient_claims/?td=rt-3a

　　https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

　　https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-you-might-think1

　　https://www.toutiao.com/article/6732375217743593998