「通用人工智能」現(xiàn)在幾乎已經(jīng)成了2020年代的「水變油」科技，差不多每半個(gè)月都會(huì)有人宣布發(fā)現(xiàn)/確信某個(gè)大模型的表現(xiàn)是已經(jīng)覺醒了人性、AI「活過來」了。 最近此類消息鬧得最兇的是谷歌。廣為人知的是前研究員Blake Lemoine說大語言模型LaMDA「活了」，這位老哥不出所料地進(jìn)入了被離職流程。 

其實(shí)幾乎與之同時(shí)的，還有《大西洋月刊》的谷歌準(zhǔn)軟文在說，另一個(gè)新款大語言模型PaLM也成了「真正的通用人工智能」（It is a true artificial general intelligence）。 

《大西洋月刊》強(qiáng)行宣布PaLM成AGI

只不過這篇文章幾乎沒人讀，因此引發(fā)的討論和抨擊只有寥寥而已。

 然而，世界級(jí)大刊吹捧世界級(jí)大廠的稿件，即使再?zèng)]人讀，也像老電影臺(tái)詞說的一樣，「就好像黑夜里的螢火蟲一樣，那么鮮明，那么出眾……」 2022年6月19日，《大西洋月刊》發(fā)布題為《人工意識(shí)好無聊》（Artificial Consciousness Is Boring）的文章。 

而《大西洋月刊》此文的網(wǎng)頁標(biāo)題比欲蓋彌彰的文章標(biāo)題直白：《谷歌的PaLM AI比真實(shí)意識(shí)要奇怪得多》（Google's PaLM AI Is Far Stranger Than Conscious）。 

內(nèi)文不出意料，是作者采訪谷歌大腦的PaLM項(xiàng)目組成員之后的種種溢美之詞： 5400億參數(shù)，能不預(yù)先訓(xùn)練就完成數(shù)百種不同的任務(wù)。能說笑話，能總結(jié)概述文本。 如果用戶輸入孟加拉語問題，PaLM模型可以用孟加拉語和英語答復(fù)。 

如果用戶要求把一段代碼從C語言譯為Python，PaLM模型也能快速完成。 但此文逐漸從疑似軟文的夸夸訪談稿，走向了一個(gè)吹吹翻車稿：宣布PaLM模型是「真正的通用人工智能」（It is a true artificial general intelligence）。 

「PaLM的功能嚇到了開發(fā)者們，需要智識(shí)上的酷炫和距離、才能不被嚇到且接受—PaLM具有理性?！梗╰he function that has startled its own developers, and which requires a certain distance and intellectual coolness not to freak out over. PaLM can reason.） 

 這是谷歌本月第二次有大模型被強(qiáng)行宣布是AGI了。 這個(gè)宣稱的依據(jù)何在呢？按此文作者說，是因?yàn)镻aLM模型可以在沒有預(yù)先特定訓(xùn)練的前提下，自行「跳出定式」來解決不同的智能任務(wù)。 而且PaLM模型擁有「思維鏈提示」功能，用白話說是將問題求解過程給PaLM模型拆解、解釋、演示一遍后，PaLM就能自行得出正確答案啦。 

Jeff Dean本人從未說過PaLM是AGI

噱頭和證據(jù)之間的差距，有極大的「褲脫看這」感覺：原來《大西洋月刊》的作者，也有不查料就開始采訪人寫稿的習(xí)慣啊。

 之所以這么說，是因?yàn)镴eff Dean老師帶隊(duì)推出PaLM模型時(shí)，介紹過「思維鏈提示」功能。但谷歌大腦可絕不敢自吹這個(gè)產(chǎn)品是個(gè)已經(jīng)活過來的「終結(jié)者」。 2021年10月，Jeff Dean親自撰文介紹了一個(gè)全新的機(jī)器學(xué)習(xí)架構(gòu)——Pathways。 目的很簡單，就是讓一個(gè)AI能夠跨越數(shù)以萬計(jì)的的任務(wù)，理解不同類型的數(shù)據(jù)，并同時(shí)以極高的效率實(shí)現(xiàn)：

在大半年之后的2022年3月，Jeff Dean終于發(fā)布了Pathways的論文。 論文地址：https://arxiv.org/abs/2203.12533 其中，補(bǔ)充了不少技術(shù)上的細(xì)節(jié)，比如最基本的系統(tǒng)架構(gòu)等等。

2022年4月，谷歌用Pathways系統(tǒng)構(gòu)造的PaLM語言模型面試世，這個(gè)擁有5400億參數(shù)的Transformer語言模型，接連打破多項(xiàng)自然語言處理任務(wù)的SOTA。 除了用到強(qiáng)大的Pathways系統(tǒng)外，論文中介紹PaLM的訓(xùn)練用到了6144個(gè)TPU v4，使用了7800億token的高質(zhì)量數(shù)據(jù)集，并且其中有22%的非英文、多語種語料。 

論文地址：https://arxiv.org/abs/2204.02311 「自監(jiān)督學(xué)習(xí)」、「思維鏈提示」在此前就是AI業(yè)界不陌生的概念，PaLM模型只是更進(jìn)一步將概念落地具現(xiàn)化。 而雪上加霜的是，《大西洋月刊》此文直說了「谷歌研究者們也不清楚PaLM模型為何能達(dá)到此功能」………… 這是嫌Jeff Dean老師太閑、給他找事做啊。

批評(píng)者：《大西洋月刊》說法不靠譜

果然，美國加州圣菲研究所的成員Melanie Mitchell教授在自己的社交網(wǎng)站賬號(hào)上發(fā)連續(xù)貼，含蓄但堅(jiān)定地質(zhì)疑了《大西洋月刊》此文。 

Melanie Mitchell表示：「這文章很有趣，不過我認(rèn)為作者可能沒有采訪谷歌研究者以外的AI界專業(yè)人士。 

 比如其中種種聲稱PaLM模型『真正AGI』的證據(jù)。我本人是沒有使用PaLM的權(quán)限啊，不過谷歌4月自己發(fā)布論文中只是在幾個(gè)基準(zhǔn)測試上有效果顯著的小樣本學(xué)習(xí)測試，但并非PaLM的所有小樣本學(xué)習(xí)測試結(jié)果都同樣穩(wěn)健。 

并且其中測試中使用的基準(zhǔn)，有多少使用『捷徑學(xué)習(xí)』這一簡化難度的技術(shù)，論文中也未提到。 按照《大西洋月刊》文章的措辭，PaLM至少可以高可靠度、高通用度、一般精度來完成各種任務(wù)。 

然而不論是此文還是谷歌4月論文，都沒有詳細(xì)描述PaLM模型在通用智能方面的能力與局限，也沒有提及測試此方面能力的基準(zhǔn)。 

并且PaLM『具有理性』的聲稱尤其需要被驗(yàn)證。 GPT系列的類似聲稱，因?yàn)槠湓L問權(quán)限的開放性，已經(jīng)被在其上跑各種實(shí)驗(yàn)的業(yè)內(nèi)人士證偽了。如果PaLM要獲得如此殊榮，就該接受同等程度的對(duì)抗性驗(yàn)證。 

還有，按谷歌4月論文的自白，PaLM的理性方面基準(zhǔn)測試也就比業(yè)內(nèi)幾個(gè)同類SOTA模型好一點(diǎn)點(diǎn)，優(yōu)勝不多。 

最關(guān)鍵一點(diǎn)，PaLM的論文未經(jīng)同儕評(píng)議、模型也不對(duì)外界開放任何訪問權(quán)限。所有聲稱都只算一張嘴在吹，無法證實(shí)、無法復(fù)現(xiàn)、無法評(píng)估?！?/span>