奧特曼再談AGI信念！

最近，奧特曼在一期采訪中堅(jiān)定地表示，「OpenAI將第一個(gè)發(fā)布AGI，并沒有人多少人在意」。

他承認(rèn)，當(dāng)AI變得更加自主，能夠完成通常需要整個(gè)組織，才能實(shí)現(xiàn)的任務(wù)時(shí)，自己并不知道那一刻會(huì)發(fā)生什么。

「屆時(shí)，人類或許需要一個(gè)新的模型」。

在最新一期TED對(duì)談中，奧特曼與主持人Adam Grant探討了AI在創(chuàng)造力、同理心上的進(jìn)步，以及面臨的倫理挑戰(zhàn)和人類監(jiān)督的作用。

近一個(gè)小時(shí)采訪中，奧特曼的精彩視角包括：

• AI是一場工業(yè)革命，而非互聯(lián)網(wǎng)革命。
• o1進(jìn)步讓人不寒而栗，過去能夠區(qū)分人類和AI的某些技能，如今已被超越
• 人類無法從AI中獲得歸屬感，也能難從AI身上獲得被尊重的感覺。
• 我們還處在探索人類與AI如何協(xié)作的早期階段
• 最新的模型在各方面都比他聰明，但奧特曼關(guān)注的重點(diǎn)依舊和往日一樣，或許工作效率能得到提高。
• 未來最重要的能力是，提出好題比給出答案更重要。
• 人類需要為AI制定規(guī)則，但沒有歷史經(jīng)驗(yàn)值得借鑒。
• 未來，AI可能變成獨(dú)特的信仰。
  
  

AI是一場工業(yè)革命，不是互聯(lián)網(wǎng)革命

Q：你對(duì)AI這么快超越人類許多能力感到驚訝嗎？

奧特曼：我們最新的模型感覺幾乎在各方面都比我聰明，但這并沒有真正影響我的生活。

我仍然關(guān)心和以前一樣的事情，我的工作效率可能提高了一點(diǎn)，也許很多。

我假設(shè)隨著社會(huì)消化這項(xiàng)新技術(shù)，社會(huì)會(huì)發(fā)展得更快，科學(xué)進(jìn)步肯定也會(huì)更快，我們正在與這個(gè)驚人的新工具共存。

但你的日常生活和幾年前相比感覺有多大不同？其實(shí)沒那么不同，對(duì)吧？

我認(rèn)為從非常長遠(yuǎn)的角度看，AI確實(shí)會(huì)改變一切。

但十年前我天真地認(rèn)為，當(dāng)我們擁有像現(xiàn)在最強(qiáng)大的模型時(shí)，一切都會(huì)改變，現(xiàn)在我覺得那是天真的看法。

Q：這是標(biāo)準(zhǔn)模式：我們高估短期變化，低估長期變化，對(duì)吧？所以你對(duì)此應(yīng)該深有感悟。

奧特曼：最終，我認(rèn)為整個(gè)經(jīng)濟(jì)都會(huì)轉(zhuǎn)型，我們會(huì)找到新的事情去做，我對(duì)此一點(diǎn)也不擔(dān)心。

我們總會(huì)找到新工作，盡管每次面對(duì)新技術(shù)時(shí)，我們都假設(shè)所有工作都會(huì)消失。確實(shí)有些工作會(huì)消失，但我們會(huì)找到更多新的事情去做。

Q：每個(gè)人都相信AI是顛覆性的，但沒人知道這對(duì)領(lǐng)導(dǎo)力、工作、組織、產(chǎn)品和服務(wù)意味著什么。

奧特曼：從這個(gè)意義上說，它更像是工業(yè)革命，而不是互聯(lián)網(wǎng)革命。

我們不知道這會(huì)如何發(fā)展，但我認(rèn)為我們也可以說很多關(guān)于如何發(fā)展的東西。

我有幾個(gè)高層次的假設(shè)，一個(gè)是我們將停止重視能力，開始重視人類的靈活性。我覺得弄清楚要問什么問題會(huì)比找出答案更重要。

Q：這與我過去幾年中的觀察一致，我們過去很看重大腦知識(shí)的積累量，一個(gè)人存儲(chǔ)的知識(shí)越多就顯得越聰明，也更容易獲得尊重。而現(xiàn)在我認(rèn)為，做點(diǎn)的連接者比知識(shí)的收集者更有價(jià)值。

如果你能綜合并識(shí)別模式，你就有了優(yōu)勢。

你看過《太空堡壘卡拉狄加》（Battlestar Galactica）這部電視劇嗎？劇中反復(fù)說的一句話是「這一切都發(fā)生過，這一切還會(huì)再次發(fā)生」。

當(dāng)人們談?wù)揂I革命時(shí)，我確實(shí)覺得它在一些超級(jí)重要的方面有質(zhì)的不同，但也讓我想起以前的技術(shù)恐慌。

小時(shí)候，大孩子們告訴我，老師們開始禁止用谷歌。

他們覺得如果你能查到每個(gè)事實(shí)，那去歷史課記事實(shí)有什么意義呢？我們會(huì)失去一些教育孩子以及怎樣成為社會(huì)負(fù)責(zé)任成員的重要東西。

如果你可以立即查到任何事實(shí)，甚至不需要發(fā)動(dòng)汽車去圖書館翻卡片目錄找書。

但實(shí)際上發(fā)生的是，我們有了更好的工具，期望提高了，但人的能力也提高了，我們學(xué)會(huì)了做更難、更有影響力、更有趣的事情。

我期待AI也是這樣。

如果幾年前你問某人：A. 2024年會(huì)有像o1這樣強(qiáng)大的系統(tǒng)嗎？B. 如果有個(gè)預(yù)言家告訴你你錯(cuò)了，會(huì)有這樣的系統(tǒng)，世界會(huì)改變多少？你的日常生活會(huì)改變多少？我們會(huì)面臨生存危機(jī)嗎？

幾乎每個(gè)被問到的人都會(huì)說，A肯定不會(huì)，但如果我錯(cuò)了，真的發(fā)生了，那我們?cè)诘诙€(gè)問題上就完蛋了。

然而，這個(gè)驚人的事情發(fā)生了，我們現(xiàn)在就在這里。

Q：對(duì)于研發(fā)科學(xué)家來說，當(dāng)他們有AI協(xié)助時(shí)，提交的專利增加了39%，這導(dǎo)致產(chǎn)品創(chuàng)新增加了17%。其中很多是突破性的，比如發(fā)現(xiàn)新的化學(xué)結(jié)構(gòu)。

如果你是處于底部的三分之一科學(xué)家，幾乎沒有什么好處，但頂尖科學(xué)家的生產(chǎn)力幾乎翻倍。這種翻倍似乎是因?yàn)锳I自動(dòng)化了很多創(chuàng)意生成任務(wù)，讓科學(xué)家能把精力集中在創(chuàng)意評(píng)估上，優(yōu)秀的科學(xué)家很擅長識(shí)別有前景的創(chuàng)意，而差的科學(xué)家容易被誤導(dǎo)。

但這也有代價(jià)，研究中82%的科學(xué)家對(duì)工作滿意度降低了，他們覺得自己做的創(chuàng)意工作變少了，技能沒有得到充分利用。人類在這種情況下似乎被簡化為評(píng)判者，而不是創(chuàng)造者或發(fā)明者。我很想知道你如何看待這些證據(jù)，以及我們?cè)撛趺崔k？

奧特曼：我有兩個(gè)相互矛盾的想法。

對(duì)我個(gè)人來說，在OpenAI發(fā)生的最令人滿足的事情之一是，當(dāng)我們發(fā)布這些新的推理模型時(shí)，我們把它們交給傳奇科學(xué)家、數(shù)學(xué)家、程序員等等，問他們?cè)趺聪搿?/span>

聽到他們講述他們可以用新的方式工作，我確實(shí)從中獲得了最大的職業(yè)樂趣——不得不真正創(chuàng)造性地推理一個(gè)問題，找出以前沒人解決的答案。

我期待現(xiàn)實(shí)中會(huì)發(fā)生的是，我們會(huì)以新的方式解決難題，積極參與解決最難的問題，同時(shí)帶來快樂。

Q：你如何使用ChatGPT解決工作中面臨的問題？

奧特曼：老實(shí)說，我用它的方式很無聊。

我不是用它來幫我提出新的科學(xué)想法的人，而是用它來處理電子郵件，或者幫我總結(jié)文件，這些都很無聊的事情。

在AI身上，人類找不到歸屬感

Q：另一個(gè)我原本期望人類能保持優(yōu)勢更久的領(lǐng)域是同理心。我讀過的最喜歡的實(shí)驗(yàn)表明，如果你在進(jìn)行文本對(duì)話，不知道對(duì)方是人類還是ChatGPT，事后被問到你感覺被看到多少、被聽到多少、得到了多少同理心和支持，你會(huì)覺得從AI那里得到的同理心和支持比從人類那里多——除非我們告訴你那是AI，然后你就不再喜歡了。

作為心理學(xué)家，我看到這些證據(jù)有幾個(gè)反應(yīng)。一個(gè)是我認(rèn)為不是AI在同理心上有多好，而是我們?nèi)祟惸J(rèn)的同理心很差，太容易陷入自我對(duì)話的陷阱。

但我也想知道，這種「如果我知道是AI我就不想要」的心態(tài)能持續(xù)多久。

奧特曼：讓我先談?wù)勔粋€(gè)普遍現(xiàn)象：人們有時(shí)更喜歡AI的輸出，直到被告知那是AI，然后就不喜歡了。這種情況反復(fù)出現(xiàn)。

我最近看到一項(xiàng)研究，即使是那些聲稱最討厭AI藝術(shù)的人，在選擇他們最喜歡的作品時(shí)，仍然更多選擇了AI的輸出，而不是人類的，直到他們被告知哪個(gè)是AI哪個(gè)不是，然后就變了。

我們可以舉出很多例子，但這個(gè)趨勢是AI在很多方面趕上了我們，然而我們天生更關(guān)心人類而不是AI。

我認(rèn)為這是個(gè)很好的跡象。

盡管你可能會(huì)比現(xiàn)在更多地和AI對(duì)話，但你仍然會(huì)非常在意什么時(shí)候在和人類對(duì)話，這是生物學(xué)、進(jìn)化歷史和社會(huì)功能的深處的東西。

Q：你為什么認(rèn)為我們?nèi)匀幌胍祟愡B接？這聽起來像是Robert Nozick論點(diǎn)的一個(gè)版本，人們更喜歡真實(shí)體驗(yàn)而不是模擬的快樂。

你認(rèn)為這就是我們渴望的嗎？我們只是想要真實(shí)的人際連接，即使它有缺陷和混亂——當(dāng)然AI也會(huì)學(xué)會(huì)模擬這些。

奧特曼：你會(huì)很快發(fā)現(xiàn)，和一個(gè)完美無瑕、絕對(duì)有同理心的事物對(duì)話久了，你會(huì)懷念戲劇性、緊張感或其他東西。

我認(rèn)為我們天生就很在意別人怎么想、怎么感受、他們?nèi)绾慰创覀?，我不認(rèn)為這能轉(zhuǎn)移到AI上。

我覺得你和AI的對(duì)話可能很有幫助，你會(huì)感到被認(rèn)可，那是一種很好的娛樂，就像玩電子游戲是一種很好的娛樂，但我不認(rèn)為它能滿足成為群體、社會(huì)一部分的那種社交需求，至少對(duì)我們來說是這樣。

我可能錯(cuò)了，也許AI能完美地操控我們的心理，那就真的會(huì)讓我很難過。

Q：你說得對(duì)，AI很難替代歸屬感，也很難從AI那里獲得地位，感覺自己重要、酷或被尊重，我們依賴其他人的目光和耳朵來實(shí)現(xiàn)這些。

奧特曼：我其實(shí)是想說，我能想象不久的將來，AI會(huì)變得比我們厲害得多，能干出各種厲害的事兒。

當(dāng)我想到那個(gè)世界，再想想里面的人，我覺得大家還是會(huì)很在意其他人，會(huì)老想著跟身邊人比地位啊、玩些小把戲什么的。

不過，我覺得沒多少人會(huì)拿自己跟AI比，看AI能干啥。因?yàn)槲覀冞€是更在意人和人之間的那些事兒。

Q：我一直很好奇的一件事是，在信息越來越有爭議、事實(shí)越來越難以說服人的世界里——比如在陰謀論信念數(shù)據(jù)中看到的，人們相信陰謀論是因?yàn)檫@讓他們感到既獨(dú)特又重要，覺得自己掌握了別人不知道的知識(shí)。

當(dāng)然這不是唯一原因，但這是主要驅(qū)動(dòng)因素之一。這意味著另一個(gè)人類很難說服他們放棄這些信念，因?yàn)檫@等于承認(rèn)自己錯(cuò)了。

我對(duì)最近一篇論文很著迷，是Marie Joachim、Itziar Castelló和Glenn Parry的研究。

論文鏈接：https://openaccess.city.ac.uk/id/eprint/33542/1/Full%20BAS-23-0246%20RnR3_to%20share.pdf

他們表明，如果和AI聊天機(jī)器人進(jìn)行對(duì)話，甚至幾個(gè)月后，它基本上能讓人們不再相信很多陰謀論的說法。

奧特曼：它首先針對(duì)你相信的一個(gè)錯(cuò)誤說法進(jìn)行駁斥。

我認(rèn)為它之所以有效，部分是因?yàn)樗茚槍?duì)附著在信念上的具體理由，部分是因?yàn)闆]人會(huì)在機(jī)器面前在意自己看起來像個(gè)白癡，而在人類面前則會(huì)。

大約20%的人不僅在交流后幾個(gè)月，放棄了荒謬的陰謀信念，連AI沒針對(duì)的一些信念也放棄了。

Q：所以我覺得AI打開這扇門很令人興奮.

顯然這既可以用于好事也可以用于壞事，但我很好奇聽聽你對(duì)這個(gè)新機(jī)會(huì)的看法，我們可以用這些工具糾正人們的誤解。

奧特曼：世界上有些人能做到這一點(diǎn)，能以某種方式擴(kuò)展人類的思維。

這很強(qiáng)大，只是這樣的人不多，能和他們交談是一種難得的機(jī)會(huì)。

但如果我們能制造一個(gè)AI，就像世界上最好的嘉賓，超級(jí)有趣，無所不知，對(duì)你非常感興趣，愿意花時(shí)間了解如何推動(dòng)你的思維走向新方向，那對(duì)我來說似乎是件好事。

我也有過和AI的這種體驗(yàn)，就像和真正重要的人類領(lǐng)域?qū)＜医徽?，改變了我的世界觀。

當(dāng)然真人也能做到，但我當(dāng)時(shí)沒和他們?cè)谝黄稹?/span>

Q：這顯然也引發(fā)了很多關(guān)于幻覺問題和準(zhǔn)確性的問題。作為外行，我很難理解為什么這是個(gè)難題，你能用非計(jì)算機(jī)科學(xué)家能理解的方式解釋一下嗎？

奧特曼：我覺得很多人還停留在GPT-3時(shí)代，那是2021年的老黃歷了：那時(shí)候AI都不怎么管用，確實(shí)有很多幻覺。

如果你用現(xiàn)在的ChatGPT，它還是會(huì)有些幻覺，但我覺得它總體上相當(dāng)穩(wěn)健。這挺令人驚訝的。

訓(xùn)練這些模型時(shí)間，會(huì)根據(jù)它們之前見過的所有詞進(jìn)行預(yù)測，訓(xùn)練集中有很多錯(cuò)誤信息，有時(shí)候模型也沒能像期待的那樣泛化。

教會(huì)模型什么時(shí)候應(yīng)該自信地說它不知道，而不是猜測，這仍然有待研究。

但它正在變得更好，新推理模型在這方面也有很大進(jìn)步。

我的孩子，永遠(yuǎn)不會(huì)比AI聰明

Q：在ChatGPT的各種版本中， 我提示過AI，比如「這是真的嗎？請(qǐng)確保這是準(zhǔn)確的答案」。

這應(yīng)該作為算法迭代中的必要步驟內(nèi)置進(jìn)去。那么我們是不是朝著這個(gè)方向前進(jìn)，這會(huì)成為模型的自動(dòng)設(shè)置嗎？

奧特曼：我認(rèn)為這會(huì)成為過程的一部分，我覺得還有很多其他東西也會(huì)讓它變得更好，但那會(huì)是其中一部分。

Q：最近有些全新研究，過去一兩年里有很多這類研究。

但上周讓我震驚的一項(xiàng)是，當(dāng)你比較單獨(dú)的AI和單獨(dú)的醫(yī)生時(shí)，AI當(dāng)然會(huì)勝出，但AI也擊敗了醫(yī)生+AI團(tuán)隊(duì)。我對(duì)這些證據(jù)的解讀是，醫(yī)生沒有從AI助手中受益，因?yàn)樗麄冊(cè)诓煌鈺r(shí)會(huì)推翻AI的判斷。

奧特曼：在歷史上，上演過同樣的一幕。比如AI開始下棋時(shí)，有段時(shí)間人類更強(qiáng)，然后AI更強(qiáng)。

然后有一段時(shí)間（忘了多久）「AI+人類」一起，比單獨(dú)的AI強(qiáng)，因?yàn)樗麄兡軒聿煌暯恰?/span>

然后到了某個(gè)時(shí)候，AI又比「AI+人類」強(qiáng)，因?yàn)槿祟悤?huì)推翻AI的決定，犯下他們沒有意識(shí)到的錯(cuò)誤。

如果你把自己看作在所有情況下都要推翻AI決定的角色，那AI就不管用了。

另一方面，我認(rèn)為我們還在早期階段，還在弄清楚人類和AI該如何合作。

AI會(huì)比人類醫(yī)生更擅長診斷，這可能不是你想反駁的。

但人類在很多其他方面會(huì)做得更好，或者至少患者希望由人來做，我認(rèn)為這會(huì)很重要。我一直在想很多這方面的事。

我很快要有個(gè)孩子了，我的孩子永遠(yuǎn)不會(huì)成長到比AI聰明。即將出生的孩子們，他們知道的唯一世界就是存在AI的世界，這會(huì)很自然。

AI比人類聰明，當(dāng)然它能做人類做不到的事，但誰真的在乎呢？

Q：所以我覺得我們這一代只是這個(gè)過渡期，有點(diǎn)奇怪。

在某些方面這是謙遜的力量，我認(rèn)為這是好事。另一方面，我們還不知道如何與這些工具合作，也許有些人依賴它們太快了。

奧特曼：我不會(huì)拼寫復(fù)雜的單詞了，因?yàn)槲蚁嘈抛詣?dòng)更正會(huì)救我，我覺得這沒問題。我覺得對(duì)這些事情產(chǎn)生道德恐慌很容易，即使人們更依賴AI幫他們表達(dá)思想，也許這就是未來。

Q：我見過學(xué)生不愿意在沒有ChatGPT的情況下寫論文，因?yàn)槊鎸?duì)空白頁或閃爍的光標(biāo)，我確實(shí)覺得有點(diǎn)依賴性。對(duì)如何防止這種情況，你有什么想法嗎，或者這就是未來，我們應(yīng)該習(xí)慣？

奧特曼：我不確定這是我們應(yīng)該防止的事情。

對(duì)我來說，寫作是利用外部信息的思考（outsourced  thinking），很重要。

但人們用一種更好的方式替代思考，用一種新的寫作方式，這原則上似乎沒問題。

有人會(huì)寫下想對(duì)別人說的要點(diǎn)，讓ChatGPT把它寫成多段的漂亮郵件，發(fā)給別人。然后接受到郵件的那個(gè)人會(huì)把郵件放進(jìn)ChatGPT，說「告訴我三個(gè)關(guān)鍵要點(diǎn)是什么」。

這個(gè)流程很常見，但我覺得這很傻。所以寫作和溝通中，有些殘留的形式主義可能已經(jīng)沒多少價(jià)值了。

我很樂意看到社交規(guī)范進(jìn)化到每個(gè)人都可以直接發(fā)要點(diǎn)給對(duì)方。

Q：我真的想要一個(gè)水印或至少一些內(nèi)部記憶，讓ChatGPT能回復(fù)道：「嘿，這是AI生成的，你應(yīng)該回去告訴寫信人你想要重點(diǎn)，這樣你們以后能更清楚地溝通」。

奧特曼：變得更出名的一件悲哀的事是，我如果不能把每件事都表達(dá)得完美，那對(duì)我或OpenAI幾乎沒什么好處，卻迎來了攻擊或其他什么，這真是個(gè)遺憾。

Q：我確實(shí)覺得這是你失去的一種特權(quán)，你無法公開地即興發(fā)揮、天馬行空， 表達(dá)部分錯(cuò)誤或不完整想法。

奧特曼：大部分都是錯(cuò)誤但有些寶石在里面，但那是我追求的。

Q：話雖如此，你比一些不進(jìn)行自我反思或自我控制的同行更謹(jǐn)慎，我們有些人很感激你。

奧特曼：好吧，那是另一回事。如果只是說做個(gè)深思熟慮、小心謹(jǐn)慎的人，我覺得更多人應(yīng)該這樣做。我認(rèn)為部分原因是很多人適應(yīng)這些AI工具很慢。

不搞研究，只做決定

Q：被自己創(chuàng)立的公司解雇，是什么感覺？

奧特曼：那就像是一種超現(xiàn)實(shí)的迷霧，困惑是最初的主導(dǎo)情緒，然后是挫折、憤怒、悲傷、感恩，各種情緒都有，就像是人類情感的完整范圍，相當(dāng)令人印象深刻。

Q：那48小時(shí)內(nèi)你是怎么處理這些情緒的？

奧特曼：老實(shí)說，有太多事情要處理，以至于沒有太多時(shí)間去處理任何情緒。所以在那48小時(shí)里沒怎么處理，然后就重新投入工作。

Q：我記得史蒂夫·喬布斯（Steve Jobs）在被蘋果公司逼走多年后說過，那是一劑味道很糟的藥，但我猜病人需要它。這跟你有任何關(guān)聯(lián)嗎，還是情況完全不同？

奧特曼：我覺得這跟史蒂夫·喬布斯的情況完全不同，而且整個(gè)過程太短了，就像一場非常奇怪的夢，然后就回去工作，收拾殘局。

Q：你學(xué)到了什么教訓(xùn)？

奧特曼：我學(xué)到了很多下次會(huì)做得不一樣的東西，關(guān)于我們?cè)谀莻€(gè)過程中以及之后如何溝通，以及需要直接、清楚地說明正在發(fā)生的事情。

我覺得很長一段時(shí)間里，OpenAI上空籠罩著一片懷疑的云霧，我們本可以做得更好。

我知道我和很棒的人在一起工作，團(tuán)隊(duì)在危機(jī)中、在充滿不確定性的壓力情況下表現(xiàn)很好。

其中一個(gè)讓我最驕傲的時(shí)刻是看著執(zhí)行團(tuán)隊(duì)在我不在的時(shí)候運(yùn)作公司，他們中的任何一個(gè)都能完美地管理公司。我為挑選這些人、為在某種程度上教導(dǎo)他們感到非常驕傲，也為公司處于一個(gè)非常強(qiáng)大的位置感到驕傲。

Q：聽到你這么說我很驚訝，我原以為你最驕傲的時(shí)刻會(huì)是多數(shù)員工們站在你身后給予支持。作為一名組織心理學(xué)家，看到內(nèi)部這么多的忠誠和支持，我覺得那太驚人了。

奧特曼確實(shí)感覺很好，但那不是讓我印象最深刻的事情。

Q：我猜這也很像喬布斯，當(dāng)他被問及最驕傲的成就時(shí)，不是Mac、iPod或iPad，而是打造這些產(chǎn)品的團(tuán)隊(duì)。

奧特曼：我不做研究，也不開發(fā)產(chǎn)品，我會(huì)做一些決定。

我能打造的是公司，所以這當(dāng)然是我感到自豪的東西。

在OpenAI，度過怎樣的一天

奧特曼：這是個(gè)好問題。不知怎的，早晨通常從不那么混亂，但到了下午往往一切都脫軌了。

會(huì)有很多事情發(fā)生，有點(diǎn)處于反應(yīng)模式和救火模式。

所以我學(xué)會(huì)了在一天早些時(shí)候完成真正重要的事情。

我大部分時(shí)間都在思考研究、計(jì)算和我們開發(fā)的產(chǎn)品，其他方面花的時(shí)間少一些，但具體是什么樣子隨時(shí)都可能不同。

以后的社會(huì)：機(jī)器貨幣

Q：我們看到了一些非常有趣的人類獨(dú)創(chuàng)性。我腦海中浮現(xiàn)的證據(jù)是Sharon Parker和她的同事們的一項(xiàng)研究，在機(jī)器人技術(shù)領(lǐng)域。

他們進(jìn)入一家制造公司，開始用機(jī)器人替代人類。員工們沒有恐慌他們會(huì)失去工作，而是說我們需要找到獨(dú)特的貢獻(xiàn)，我們需要在工作中找到意義，他們通過智勝機(jī)器人實(shí)現(xiàn)了這一點(diǎn)。

他們研究機(jī)器人，找出它們不擅長的，然后說「好，我們要把這個(gè)變成核心競爭力」。

我覺得o1和推理的進(jìn)步很可怕，因?yàn)槲覀內(nèi)ツ暾J(rèn)為能區(qū)分我們的很多技能現(xiàn)在已經(jīng)過時(shí)了，比如2023年很多人用的提示技巧不再相關(guān)，有些永遠(yuǎn)不會(huì)再需要。那么50年、100年或1000年后人類是干什么的？

奧特曼：沒人知道，但我認(rèn)為更有意思的答案是思考當(dāng)下人類有何作用。我覺得人類對(duì)其他人有用，而且我想這一點(diǎn)會(huì)始終如此

很多年前，Paul說過的一句話讓我印象深刻。

在 OpenAI 創(chuàng)立之前，他就在思索，認(rèn)為有一天會(huì)有「人類貨幣」和「機(jī)器貨幣」，它們是獨(dú)立的貨幣體系，彼此毫無關(guān)聯(lián)。

我認(rèn)為這未必會(huì)真的發(fā)生，但我覺得這是個(gè)很深刻的見解。

Q：太有趣了，我從沒想過機(jī)器會(huì)有自己的貨幣。

奧特曼：當(dāng)AI發(fā)明出各種新事物、治愈疑難病癥、實(shí)現(xiàn)核聚變，取得那些我們難以想象的巨大成就時(shí)，你會(huì)感到興奮。

但那時(shí)，你在意AI具體做什么，還是在意你的朋友或同事做了什么？

我不確定，可能不會(huì)太在意。當(dāng)然，也有人或許會(huì)在意，甚至有些人可能會(huì)對(duì)特定的AI產(chǎn)生奇特的崇拜。

不過我敢斷言，到時(shí)候我們會(huì)驚訝地發(fā)現(xiàn)，人類依然以自己為中心。

快問快答：OpenAI第一個(gè)發(fā)布AGI

Q：好了，我想是時(shí)候來個(gè)閃電問答了.

奧特曼：這是我進(jìn)入GPT-4模式而不是o1模式，我得盡可能快地回答下一個(gè)問題。

Q：第一個(gè)問題是，你最近在AI上重新思考或改變了什么看法？

奧特曼：我覺得快速起飛比我?guī)啄昵跋氲母赡?。速度多快很難推理，但可能是幾年而不是十年。

Q：你認(rèn)為人們?cè)谶m應(yīng)AI時(shí)得到的最差建議是什么？

奧特曼：說AI撞墻了，我覺得這是最懶惰的、不想思考的方式。對(duì)此，我只能眼不見心不煩。

Q：你最喜歡的適應(yīng)建議是什么，或者你會(huì)給什么建議來適應(yīng)并在AI世界成功？

奧特曼：這是個(gè)蠢問題，但顯而易見的是使用這些工具。OpenAI 做的一件很酷的事是，我們推出了我們知道的當(dāng)今世界上最強(qiáng)大的模型o1，任何人都可以用，只要每月付我們20美元。

如果你不想付20美元，你仍然可以用一個(gè)很好的東西。所以它就在那兒，全球領(lǐng)先的AI，最有能力的人，你可以接觸到同樣的前沿，我覺得這太棒了，去用它，弄清楚你喜歡什么，不喜歡什么，你覺得會(huì)發(fā)生什么。

Q：你對(duì)AI最熱門或不受歡迎的看法是什么？

奧特曼：我覺得它不會(huì)像人們想的那么大，至少短期內(nèi)不會(huì)，長期來看一切都會(huì)改變。

我有點(diǎn)真心相信我們可以推出第一個(gè)AGI，但沒人會(huì)太在意。

Q：科技界的人在乎，哲學(xué)家在乎，這兩個(gè)群體是我一直聽到的這樣的反應(yīng)。

奧特曼：即便如此，他們真在乎，但20分鐘后他們就在想今晚吃什么。

智能價(jià)格每年降10倍

Q：最后一個(gè)我想跟你聊的話題是倫理，我知道你也一直在思考，也談?wù)撨^多次。這是大多數(shù)人最不愿意外包給AI做判斷的領(lǐng)域。

奧特曼：好，我覺得最終還是得靠人類。

我聽到很多核威懾的比喻，比如我們得搶在對(duì)手前面，然后會(huì)有相互確保毀滅，等等。

但軍備競賽的比喻在這兒行不通，因?yàn)楹芏鄬?duì)手不是國家，他們面臨的風(fēng)險(xiǎn)或后果不一樣。

而且現(xiàn)在我們要信任私人公司而不是官員，這感覺很復(fù)雜，不太對(duì)應(yīng)。

Q：跟我說說這個(gè)，你怎么思考倫理和安全問題？

奧特曼：首先，我認(rèn)為人類需要制定規(guī)則。我們應(yīng)當(dāng)讓AI遵循集體商定的規(guī)則，而且這些規(guī)則必須由人類來確定。

其次，我發(fā)覺大家的思考方式似乎難以擺脫以歷史類比。我理解這一點(diǎn)，而且這也不完全是壞事。

然而，我認(rèn)為這種方式存在一定弊端，因?yàn)闅v史與未來截然不同。

所以，我會(huì)鼓勵(lì)大家盡可能依據(jù)現(xiàn)有的認(rèn)知，將討論的基礎(chǔ)建立在AI與過去事物的不同之處，而非盲目猜測，進(jìn)而設(shè)計(jì)出與之適配的系統(tǒng)。

我由衷堅(jiān)信，部署AI，從而顯著提升個(gè)體能力與個(gè)體意志，是應(yīng)對(duì)當(dāng)前狀況的絕佳策略。

這遠(yuǎn)比某個(gè)公司、對(duì)手或個(gè)人掌控全球所有AI力量要好得多。

但我也欣然承認(rèn)，我不知道當(dāng)AI具備更強(qiáng)的主體性時(shí)會(huì)發(fā)生什么。

不是那種我們給它們布置一個(gè)任務(wù)，讓它們編程3 小時(shí)的情況，而是它們能夠去完成極為復(fù)雜、通常需要整個(gè)組織耗費(fèi)多年時(shí)間才能完成的工作。

我懷疑我們需要再度探尋新的模型，我覺得歷史無法提供有效的指引。

不，在軟件領(lǐng)域，情況確實(shí)并非如此。我認(rèn)為在美國，其他任何強(qiáng)大的技術(shù)都受到監(jiān)管。相比之下，我覺得歐盟在立法監(jiān)管方面或許更具優(yōu)勢。

奧特曼：我認(rèn)為歐盟對(duì) AI 的監(jiān)管方式基于另一個(gè)原因也并無益處。

例如，當(dāng)完成一個(gè)新模型時(shí)，即便它并非十分強(qiáng)大，在美國推出該模型的時(shí)間也會(huì)比在歐盟早很多，因?yàn)闅W盟有一系列繁瑣的監(jiān)管流程。

如果這意味著歐盟在前沿技術(shù)應(yīng)用方面總是落后幾個(gè)月。

我覺得這只會(huì)讓歐盟在構(gòu)建技術(shù)流暢性、打造經(jīng)濟(jì)引擎、深化技術(shù)理解，以及推進(jìn)其他相關(guān)事項(xiàng)上進(jìn)展更緩慢。

所以，平衡監(jiān)管力度是件極為棘手的事情，而且在我看來，顯然需要一定監(jiān)管。

Q：如果你要規(guī)劃負(fù)責(zé)任的監(jiān)管從哪兒開始，你會(huì)怎么做？

奧特曼：測試，就是測試和理解，我覺得這是個(gè)很好的起點(diǎn)。

至于人們能設(shè)計(jì)生物武器，可能還很便宜，那什么樣的監(jiān)管能幫我們？

奧特曼：我覺得今天用谷歌已經(jīng)能做很多了。如果更強(qiáng)大、更容易做到這些，確實(shí)很重要，但我們有些監(jiān)管措施，也許需要比現(xiàn)在更好，也許需要更嚴(yán)格。

Q：你展望未來十年左右，最擔(dān)心什么？

奧特曼：我覺得是變化的速度。我真心相信人類能解決每個(gè)問題，但我們得很快解決很多問題。

在倫理及未來影響方面，一直令我糾結(jié)的一個(gè)問題是，我們?cè)詾樵S多數(shù)字技術(shù)會(huì)帶來平民化，至少能減少不平等現(xiàn)象，然而事實(shí)卻常常相反。富人由于能夠更好地接觸并運(yùn)用這些工具，從而變得更加富有。

你提到o1按美國標(biāo)準(zhǔn)而言價(jià)格較為便宜，但我認(rèn)為在獲取途徑上仍存在差距。那么，要改變這種狀況需要采取哪些措施呢？在發(fā)展中國家，「AI 向善」（AI for Good）又應(yīng)呈現(xiàn)出怎樣的形態(tài)呢？

奧特曼：我們每年能把AI的價(jià)格降低大約10倍。這雖然不能再持續(xù)太久，但已經(jīng)持續(xù)好一陣子了。智能變得更便宜，我覺得這很驚人。

Q：不過某種程度上這也這個(gè)問題更糟糕。至少現(xiàn)在，能負(fù)擔(dān)得起制造真正強(qiáng)大模型的只有政府和大公司，現(xiàn)在得負(fù)責(zé)訓(xùn)練它，但使用它完全不同。所以當(dāng)你回顧過去三年，感覺像是經(jīng)歷了一生的變化，太奇怪了，為什么你要做這個(gè)？

奧特曼：我是個(gè)技術(shù)樂觀主義者和科學(xué)迷，我覺得這是我能想象的最酷的事情，也是我能想象的最好的工作方式。

能參與我認(rèn)為一生中最有趣、最酷、最重要的科學(xué)革命，TMD的太有優(yōu)越感了，太不可思議了。

然后出于非自私的原因，我覺得對(duì)科學(xué)進(jìn)步有種責(zé)任感：這就是推動(dòng)社會(huì)進(jìn)步的方式。

在我個(gè)人所能貢獻(xiàn)的所有事物之中，我確信這件事對(duì)科學(xué)進(jìn)步的推動(dòng)作用最大，進(jìn)而能夠提升人們的生活水平，改善人類的體驗(yàn)質(zhì)量，怎么叫都行。

我心中這份責(zé)任感并非負(fù)面的負(fù)擔(dān)，而是飽含著感恩之情。我愿全力以赴，投身其中。

Q：聽起來像是責(zé)任。隨著孩子即將來臨，作為即將成為父親的人，你希望下一代看到什么樣的世界？

豐饒是我腦海中第一個(gè)詞，繁榮是第二個(gè)。

奧特曼：總體而言，我所憧憬的，是一個(gè)人們能夠擁有更多作為、生活更加充實(shí)且美好的世界，無論我們各自對(duì)這些美好有著怎樣獨(dú)特的定義。

仔細(xì)想想，或許每一個(gè)即將成為父親的人，對(duì)孩子的期許，本質(zhì)上都是這樣。