2023年5月16日，正值人工智能狂熱的高峰期，OpenAI首席執(zhí)行官奧特曼，站在美國(guó)參議院司法小組委員會(huì)前，參與人工智能監(jiān)督會(huì)議。

奧特曼在密蘇里州圣路易斯長(zhǎng)大，是斯坦福大學(xué)的輟學(xué)生，他在30歲之前就成為了非常成功的Y Combinator初創(chuàng)孵化器的總裁。

在聽(tīng)證會(huì)前幾個(gè)月，ChatGPT剛剛席卷了全世界。

整個(gè)2023年夏天，奧特曼都受到了披頭士樂(lè)隊(duì)一般的待遇，像世界巡演一樣來(lái)到華盛頓，會(huì)見(jiàn)了世界各地的總理和總統(tǒng)。

美國(guó)參議員Kyrsten Sinema滔滔不絕地說(shuō)，「我從未見(jiàn)過(guò)像Sam這樣聰明的人，他性格內(nèi)向且謙遜，但是非常擅長(zhǎng)與國(guó)會(huì)議員建立關(guān)系，并且可以幫助政府人員了解人工智能?！?/span>

當(dāng)時(shí)最美好的詞匯都用形容這位年輕CEO：真誠(chéng)、才華橫溢、富有、充滿(mǎn)人文關(guān)懷等等。

他常常說(shuō)人工智能可以改變?nèi)蚪?jīng)濟(jì)，這讓世界領(lǐng)導(dǎo)人對(duì)他的宏圖大計(jì)都興致勃勃。

被耍了？

參議員Richard Blumenthal將奧特曼和Gary Marcus都召集到華盛頓，討論應(yīng)該如何處理人工智能這把新興科技的「雙刃劍」，議程是人工智能政策和監(jiān)管。

奧特曼代表AI巨頭，Gary Marcus作為一名科學(xué)家和作家到場(chǎng)。

這位Gary Marcus也是老朋友了，AGI真有泡沫破裂的那天他領(lǐng)頭等功。

「最先呼吁GenAI泡沫」

Marcus在聽(tīng)證會(huì)當(dāng)天也差點(diǎn)被奧特曼的人格魅力折服，雖然有時(shí)奧特曼會(huì)回避問(wèn)題，但總的來(lái)說(shuō)，他看起來(lái)很真誠(chéng)。

兩人在會(huì)上都強(qiáng)烈支持人工智能監(jiān)管。但漸漸地，Marcus意識(shí)到自己、參議院以及美國(guó)人民可能都被「?！沽恕?/span>

事實(shí)上，Marcus一直對(duì)OpenAI抱有一些疑慮。

OpenAI新聞宣傳活動(dòng)經(jīng)常夸大其詞，甚至具有誤導(dǎo)性，例如他們對(duì)機(jī)器人玩魔方的花哨演示，結(jié)果發(fā)現(xiàn)魔方內(nèi)部裝有特殊傳感器。

多年來(lái)，OpenAI這個(gè)名字，以及他們非營(yíng)利組織的定位，都代表了科技創(chuàng)造的一種開(kāi)放性。然而事實(shí)上，隨著時(shí)間的推移，它變得越來(lái)越不Open。

OpenAI經(jīng)常暗示AGI即將到來(lái)，在Marcus看來(lái)，這是毫無(wú)根據(jù)的炒作，奧特曼卻用不同的話(huà)術(shù)吹得讓人眼花繚亂。

在參議院，奧特曼給自己立了一個(gè)無(wú)私熱血的人設(shè)。參議員John Kennedy問(wèn)道，「好吧，你賺了很多錢(qián)嗎？」

奧特曼回答說(shuō)，「并沒(méi)有，我得到的錢(qián)足以支付醫(yī)療保險(xiǎn)的費(fèi)用。我沒(méi)有OpenAI的股權(quán)?！顾忉屨f(shuō)，「我這樣做是因?yàn)槲覠釔?ài)AI」參議員們聽(tīng)了都很受用。

然而，Marcus寫(xiě)道，奧特曼并沒(méi)有說(shuō)出全部真相。他的確沒(méi)有持有OpenAI的任何股票，但他持有Y Combinator的股票，而Y Combinator也持有OpenAI的股票。

這意味著奧特曼間接擁有OpenAI的股份，這一事實(shí)在OpenAI的網(wǎng)站上也可以確認(rèn)。

如果間接持股僅占公司價(jià)值的0.1%，那么其價(jià)值將接近1億美元。

這一模糊的表達(dá)就是一個(gè)警告信號(hào)。當(dāng)話(huà)題回來(lái)時(shí)，奧特曼本可以補(bǔ)充和糾正它，但他沒(méi)有這么做。

人們總喜歡聽(tīng)熱血青年無(wú)私創(chuàng)業(yè)的神話(huà)，他在《財(cái)富》雜志的一篇文章中也聲稱(chēng)他不需要OpenAI的股權(quán)，因?yàn)樗覆徊铄X(qián)」 。

不久之后的宮斗大戲中，OpenAI轉(zhuǎn)頭與奧特曼投資的一家芯片公司達(dá)成了交易。

最搞笑的是，兩家公司總部都在舊金山，相距不到一公里，走個(gè)路十來(lái)分鐘就到。

事后看來(lái)，關(guān)于金錢(qián)的討論并不是奧特曼在參議院期間唯一不完全坦誠(chéng)的事情。

言行不一

更重要的是OpenAI對(duì)人工智能監(jiān)管的立場(chǎng),奧特曼公開(kāi)告訴參議院他支持這一法案，而事實(shí)表明，奧特曼的言行并不一致。

一方面，也許奧特曼頭腦中的一小部分確實(shí)支持人工智能監(jiān)管。

他多次提到奧本海默，表示他與曼哈頓計(jì)劃的領(lǐng)導(dǎo)人同一天生日，也認(rèn)識(shí)到了AI就像核武器一樣，對(duì)人類(lèi)構(gòu)成嚴(yán)重風(fēng)險(xiǎn)。

用他自己在參議院所說(shuō)的話(huà)說(shuō)，「看，我們已經(jīng)非常清楚地了解其中的風(fēng)險(xiǎn)……我最擔(dān)心的是我們會(huì)造成負(fù)面影響，AI技術(shù)對(duì)世界造成巨大傷害?！?/span>

但在私下里，他的游說(shuō)者不斷推動(dòng)放松AI監(jiān)管，或者根本不監(jiān)管。

參議院聽(tīng)證會(huì)1個(gè)月后，有消息稱(chēng)OpenAI正在努力淡化歐盟的人工智能法案。

當(dāng)他于2023年11月因?qū)Χ聲?huì)「始終不坦誠(chéng)」而被OpenAI解雇時(shí)，Marcus并不感到驚訝。

當(dāng)時(shí)，很少有人支持董事會(huì)解雇奧特曼的決定，大批支持者前來(lái)幫助他。

許多人是奧特曼的忠實(shí)粉絲，Marcus發(fā)現(xiàn)著名記者Kara Swisher在推特上屏蔽了他，僅僅因?yàn)镸arcus暗示了董事會(huì)這樣做可能有道理。

另外，奧特曼也利用了媒體。五天后，由于OpenAI的主要投資者微軟的幫助，以及員工支持撰寫(xiě)請(qǐng)?jiān)笗?shū)，他被復(fù)職。

但自那以后，民眾對(duì)于奧特曼的態(tài)度也發(fā)生了變化，近幾個(gè)月來(lái)，對(duì)奧特曼的擔(dān)憂(yōu)和批評(píng)從小眾到了附和不斷。

記者Edward Zitron寫(xiě)道，奧特曼是「一個(gè)假先知，一個(gè)骯臟的騙子，利用他非凡的能力來(lái)打動(dòng)和操縱硅谷的精英」。

彭博新聞社的Ellen Huet在播客Foundering上得出的結(jié)論是，「當(dāng)奧特曼說(shuō)某事時(shí)，你無(wú)法確定他是否真的是這個(gè)意思」。

人工智能先驅(qū)Geoffrey Hinton最近也開(kāi)始質(zhì)疑奧特曼的動(dòng)機(jī)。

Marcus寫(xiě)了一篇名為《山姆·奧爾特曼劇本》的文章，剖析了他如何以表面謙遜的方式大肆宣傳，成功地愚弄了大眾這么長(zhǎng)時(shí)間。

對(duì)于一些人來(lái)說(shuō)，奧特曼人設(shè)崩塌的導(dǎo)火索是和演員斯嘉麗·約翰遜的糾紛。

斯嘉麗曾明確要求OpenAI不要用她的聲音制作聊天機(jī)器人，而奧特曼隨后使用了另一位配音演員，但聲音明顯與她相似，事情鬧大后只能灰溜溜下架。

事實(shí)上，在名譽(yù)權(quán)和著作權(quán)上，OpenAI等大公司只向許多藝術(shù)家、作家提供很少的補(bǔ)償，甚至可能根本沒(méi)有。演員Justine Bateman將其描述為「美國(guó)歷史上最大的盜竊案」。

與此同時(shí)，OpenAI長(zhǎng)期以來(lái)一直口頭上強(qiáng)調(diào)制定人工智能安全措施的價(jià)值，但幾位與安全相關(guān)的關(guān)鍵員工紛紛離職。

聯(lián)合創(chuàng)始人Ilya Sutskever離職，并將他的新公司命名為Safe Superintelligence，而前OpenAI員工Daniel Kokotajlo也警告說(shuō)，有關(guān)安全的承諾正在被忽視。

OpenAI似乎也在堵住員工的嘴，這一現(xiàn)象更加加劇了OpenAI對(duì)安全的漠視。

今年5月，記者Kelsey Piper發(fā)現(xiàn)了一些文件，允許OpenAI從說(shuō)公司壞話(huà)的前員工手中收回既得股票，這種做法令許多業(yè)內(nèi)人士感到震驚。

今年5月，OpenAI董事會(huì)前成員Helen Toner在Ted AI Show播客中表示，「多年來(lái)，奧特曼一直讓董事會(huì)感到很為難……你知道，他隱瞞信息，歪曲了公司正在發(fā)生的事情，在某些情況下甚至是公然地歪曲事實(shí)并且對(duì)董事會(huì)撒謊?！?/span>

到了5月下旬，針對(duì)OpenAI及其首席執(zhí)行官的負(fù)面新聞不斷累積，以至于風(fēng)險(xiǎn)投資家Matt Turck在X上發(fā)布了一幅漫畫(huà)，「自上次輕松避免OpenAI爭(zhēng)議以來(lái)的天數(shù)：0。」

貪婪之罪

短暫的風(fēng)暴之后，奧特曼仍然運(yùn)營(yíng)著OpenAI，并且在很大程度上仍然代表人工智能的公眾形象。

他基本上按照自己的喜好重組了OpenAI的董事會(huì)，甚至就在2024年4月，國(guó)土安全部部長(zhǎng)Alejandro Mayorkas還前往拜訪(fǎng)了奧特曼，招募他加入國(guó)土安全部的人工智能安全委員會(huì)。

奧特曼的選擇很可能以持久的方式影響全人類(lèi)——而不僅僅是個(gè)人用戶(hù)。

此外，由OpenAI普及的GenAI軍備競(jìng)賽正在對(duì)環(huán)境產(chǎn)生巨大的影響，無(wú)論是用電量、排放量還是用水量。

正如彭博社最近所說(shuō)，「人工智能已經(jīng)對(duì)全球電力系統(tǒng)造成了嚴(yán)重破壞?！?/span>

隨著模型本身變得越來(lái)越大，對(duì)環(huán)境的惡劣影響也會(huì)越來(lái)越大。各國(guó)政府目前遵循奧特曼的說(shuō)法——人工智能最終會(huì)得到回報(bào)（到目前為止肯定還沒(méi)有），證明環(huán)境成本是合理的。

與此同時(shí)，OpenAI仍然占據(jù)了領(lǐng)導(dǎo)地位，奧特曼是國(guó)土安全委員會(huì)的成員，應(yīng)該要以審慎的態(tài)度接受他的建議。

奧特曼曾經(jīng)試圖吸引投資者對(duì)圍繞生成人工智能的基礎(chǔ)設(shè)施進(jìn)行7 萬(wàn)億美元的投資，這可能會(huì)導(dǎo)致資源的巨大浪費(fèi)。

最后，高估當(dāng)前的人工智能局勢(shì)可能會(huì)導(dǎo)致戰(zhàn)爭(zhēng)。

例如，中美圍繞出口管制展開(kāi)的「芯片戰(zhàn)爭(zhēng)」——美國(guó)限制英偉達(dá)設(shè)計(jì)、臺(tái)積電制造的關(guān)鍵GPU芯片的出口，影響中國(guó)在人工智能領(lǐng)域的發(fā)展能力，并導(dǎo)致兩國(guó)之間的緊張局勢(shì)升級(jí)。

奧特曼的出發(fā)點(diǎn)可能是好的，也許他真的想拯救世界免受人工智能的威脅，并引導(dǎo)人工智能向善。

但奧特曼畢竟是一位企業(yè)家，有時(shí)也許貪婪占據(jù)了上風(fēng)。

不幸的是，許多其他人工智能公司似乎走在了奧特曼炒作和偷工減料的老路上。

價(jià)值數(shù)十億美元的初創(chuàng)公司Perplexity似乎是貪婪的另一個(gè)教訓(xùn)，它對(duì)不應(yīng)該使用的數(shù)據(jù)進(jìn)行訓(xùn)練。

與此同時(shí)，微軟從倡導(dǎo)「負(fù)責(zé)任的人工智能」轉(zhuǎn)向匆忙推出存在嚴(yán)重問(wèn)題的產(chǎn)品，盲目地卷速度迫使谷歌也這樣做。

金錢(qián)和權(quán)力正在腐蝕人工智能，就像它們腐蝕社交媒體一樣。

我們根本無(wú)法相信大型私營(yíng)人工智能初創(chuàng)公司能夠以道德和透明的方式進(jìn)行自我管理，如果我們不能相信他們能夠管理自己，我們當(dāng)然就不應(yīng)該讓他們管理世界。

Marcus尖銳地指出，如果我們繼續(xù)走當(dāng)前的道路，他不認(rèn)為我們會(huì)得到一個(gè)值得信賴(lài)的人工智能。

除了權(quán)力和金錢(qián)的腐敗影響之外，還存在一個(gè)深層次的技術(shù)問(wèn)題：大語(yǔ)言模型不太可能是完全安全的。

它們本質(zhì)上是頑固的、不透明的——所謂的「黑匣子」，但這樣的黑匣子從來(lái)都不可靠。

諷刺的是，當(dāng)今人工智能面臨的最大威脅可能是人工智能公司本身。

他們的不良行為和夸大的承諾讓很多人望而卻步，許多人已經(jīng)準(zhǔn)備好讓政府采取更強(qiáng)硬的手段。

根據(jù)人工智能政策研究所6月份的民意調(diào)查， 80%的美國(guó)選民選擇「對(duì)AI進(jìn)行監(jiān)管，要求采取安全措施對(duì)AI實(shí)驗(yàn)室進(jìn)行監(jiān)督，而不是放任他們進(jìn)行自我監(jiān)管」。

為了獲得值得信任的人工智能，Marcus長(zhǎng)期以來(lái)一直在游說(shuō)跨國(guó)合作，專(zhuān)注于人工智能的安全性和可靠性而不是利潤(rùn)，開(kāi)發(fā)一套屬于人類(lèi)的新AI技術(shù)。

更重要的是，公民需要大聲疾呼，要求人工智能有利于大多數(shù)人，而不僅僅是少數(shù)人。

如果我們把一切都交給硅谷，我們就無(wú)法到達(dá)人工智能的樂(lè)土。

數(shù)十年來(lái)，科技巨頭們一直在掩蓋真相,為什么我們要繼續(xù)信任一個(gè)企業(yè)家的空頭支票呢？