生命未來(lái)研究所（Future of Life Institute）發(fā)布了一封公開(kāi)信，呼吁暫停某些形式的人工智能研究六個(gè)月。該組織以“對(duì)社會(huì)和人類(lèi)的嚴(yán)重風(fēng)險(xiǎn)”為由，要求人工智能實(shí)驗(yàn)室暫停對(duì)比GPT-4更強(qiáng)大的人工智能系統(tǒng)的研究，直到可以在它們周?chē)O(shè)置更多的“安全護(hù)欄”。

生命未來(lái)研究所在3月22日的公開(kāi)信中寫(xiě)道：“具有與人類(lèi)競(jìng)爭(zhēng)的人工智能系統(tǒng)會(huì)給社會(huì)和人類(lèi)帶來(lái)巨大風(fēng)險(xiǎn)?！薄跋冗M(jìn)的人工智能可能代表著地球生命史的深刻變化，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。不幸的是，這種水平的規(guī)劃和管理并沒(méi)有實(shí)現(xiàn)?！?/span>

該研究所認(rèn)為，如果沒(méi)有人工智能治理框架——比如阿西洛馬人工智能原則（Asilomar AI Principles，是著名的阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本。這23條準(zhǔn)則由該研究所牽頭制定。）——我們就缺乏適當(dāng)?shù)臋z查機(jī)制來(lái)確保人工智能以有計(jì)劃和可控的方式發(fā)展。這就是我們今天面臨的情況。

信中寫(xiě)道：“不幸的是，這種水平的規(guī)劃和管理并沒(méi)有發(fā)生，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字思維，而沒(méi)有人——甚至他們的創(chuàng)造者——能夠理解、預(yù)測(cè)或可靠地控制這些思維。”

在人工智能研究人員沒(méi)有自愿暫停的情況下，生命未來(lái)研究所敦促政府采取行動(dòng)，防止對(duì)大型人工智能模型的持續(xù)研究造成傷害。

頂尖的人工智能研究人員在是否暫停研究的問(wèn)題上存在分歧。5000多人簽名支持這封公開(kāi)信，其中包括圖靈獎(jiǎng)得主Yoshua Bengio、OpenAI聯(lián)合創(chuàng)始人埃隆·馬斯克和蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克。

然而，并不是每個(gè)人都相信禁止研究比GPT-4更強(qiáng)大的人工智能系統(tǒng)符合我們的最大利益。

“我沒(méi)有簽署這封信，”Meta首席人工智能科學(xué)家、圖靈獎(jiǎng)得主Yann LeCun（2018年與Bengio和Geoffrey Hinton一起獲得圖靈獎(jiǎng)）在推特上說(shuō)?！拔也煌馑那疤??！?/span>

LeCun、Bengio和Hinton被美國(guó)計(jì)算機(jī)協(xié)會(huì)（ACM）稱(chēng)為“深度學(xué)習(xí)革命之父”，他們?cè)谑嗄昵巴ㄟ^(guò)對(duì)神經(jīng)網(wǎng)絡(luò)的研究掀起了當(dāng)前的人工智能熱潮。當(dāng)年，深度神經(jīng)網(wǎng)絡(luò)是世界各地人工智能研究人員的主要關(guān)注點(diǎn)。

隨著谷歌2017年發(fā)表的Transformer論文，人工智能研究進(jìn)入了超速狀態(tài)。很快，研究人員注意到大型語(yǔ)言模型意外出現(xiàn)的能量財(cái)富，例如學(xué)習(xí)數(shù)學(xué)的能力、思維鏈推理和指令遵循。

2022年11月下旬，當(dāng)OpenAI向世界發(fā)布ChatGPT時(shí)，公眾嘗到了這些LLM能做什么的滋味。從那時(shí)起，科技界一直致力于在他們所做的一切中實(shí)施LLM，而建造更大、更強(qiáng)大的模型的“軍備競(jìng)賽”也獲得了額外的動(dòng)力，正如3月15日GPT-4的發(fā)布。

盡管一些人工智能專(zhuān)家對(duì)LLM的負(fù)面影響表示擔(dān)憂(yōu)，包括撒謊傾向、私人數(shù)據(jù)披露風(fēng)險(xiǎn)以及對(duì)就業(yè)的潛在影響，但它并沒(méi)有使公眾對(duì)新人工智能功能的巨大需求降溫。英偉達(dá)首席執(zhí)行官黃仁勛（Jensen Huang）稱(chēng)，我們可能正處于人工智能的轉(zhuǎn)折點(diǎn)。但精靈似乎已經(jīng)從瓶子里出來(lái)了，不知道它下一步會(huì)去哪里。