難得難得！關(guān)于GPT-5細(xì)節(jié)以及OpenAI更多內(nèi)幕，竟然被奧特曼自曝了。

GPT-5會(huì)是整個(gè)性能全面提升，會(huì)超出預(yù)期；對(duì)正研究如何提升GPT-4的初創(chuàng)公司會(huì)是一種碾壓。

如果回到過去，我會(huì)考慮換掉“OpenAI”這個(gè)名字。

計(jì)算能力將會(huì)成為世界上最重要的貨幣。如果投入足夠的計(jì)算資源，構(gòu)建超越人類能力的AGI是完全可行的。

我非常尊敬Ilya，他的事情他自己說(shuō)更合適，但我真的希望能一直跟他一起共事。

這波輸出頻率之高、內(nèi)容之豐富，讓不少網(wǎng)友感到驚訝。

前腳剛跟韓國(guó)硅谷記者團(tuán)透露GPT-5會(huì)超出預(yù)期，后腳就同Lex Frideman展開兩個(gè)小時(shí)的訪談。

于是乎，不到一天時(shí)間，這個(gè)訪談就有超百萬(wàn)的訪問量。

奧特曼2小時(shí)超長(zhǎng)訪談

在同Lex Frideman訪談中，奧特曼分享了很多內(nèi)容，包括大家伙蹲了好幾周的GPT-5進(jìn)展，以及一直在被熱議的“Ilya在哪”這樣的敏感話題。

量子位做了簡(jiǎn)單整理，并從中摘取了部分重要信息，在此分享給大家。

• 關(guān)于GPT-5：全面提升。
• 關(guān)于OpenAI董事會(huì)：通往AGI的道路應(yīng)該是一場(chǎng)巨大的權(quán)力斗爭(zhēng)。
• 關(guān)于Ilya在哪：他的計(jì)劃，我不方便透露。
• 與馬斯克的官司：他曾想收購(gòu)我們實(shí)現(xiàn)完全控制。
• 7萬(wàn)億美元籌集？計(jì)算能力將成為未來(lái)的貨幣。
• 關(guān)于谷歌：世界不需要另一個(gè)谷歌。
• 關(guān)于AGI：任何人不應(yīng)該控制AGI。

（不過必須承認(rèn)的是，奧特曼玩太極玩得賊6，愿意稱他為新一代張sam豐）

關(guān)于GPT-5：全面提升

Q：從GPT-4到GPT-5的飛躍，哪些方面讓你感到興奮?

奧特曼：我很高興看到GPT-5的智能水平得到提升。這聽上去可能有點(diǎn)陳詞濫調(diào)，但真正令人興奮的是，它將是整個(gè)領(lǐng)域的全面進(jìn)步，而不僅僅是某一方面變得更好。

Q：在編程方面，你認(rèn)為未來(lái)5到10年內(nèi)，人類還會(huì)親自編寫多少代碼?

奧特曼：相信未來(lái)編程會(huì)有很多不同的形式，也許有些人會(huì)完全使用自然語(yǔ)言編程，也就是說(shuō)不用寫代碼。

Q：編程很難，尤其是最后縮小那1%的差距，這有多難?

奧特曼：在大多數(shù)情況下，實(shí)踐者會(huì)使用多種工具，他們會(huì)用自然語(yǔ)言去完成部分工作。

Q：我們會(huì)在某個(gè)時(shí)候看到OpenAI推出人形機(jī)器人或類人機(jī)器人大腦嗎?

奧特曼：會(huì)的，在未來(lái)的某個(gè)時(shí)候。

Q：具身智能對(duì)你有多重要?

奧特曼：我覺得如果我們擁有AGI，但仍然是人類在現(xiàn)實(shí)世界執(zhí)行各種任務(wù)，這將是令人沮喪的。因此作為轉(zhuǎn)變的一部分，我們也希望能開發(fā)出人形機(jī)器人，或者某種現(xiàn)實(shí)世界的機(jī)器人。

Q：OpenAI過去在機(jī)器人技術(shù)方面有過相當(dāng)一段時(shí)間的研究。

奧特曼：我們是一家小公司，所以必須集中資源。而且由于一些錯(cuò)誤的原因，當(dāng)時(shí)機(jī)器人的發(fā)展遇到了很大困難。未來(lái)我們還會(huì)以某種方式重新投入到機(jī)器人研發(fā)中。

Q：這聽起來(lái)既令人鼓舞，又有些令人不安。

奧特曼：為什么?

Q：因?yàn)檫@感覺我們很快就會(huì)進(jìn)入機(jī)器人時(shí)代，就像《終結(jié)者》里那樣。

奧特曼：我們會(huì)重新投入機(jī)器人的研發(fā)，但當(dāng)然不是要把自己變成機(jī)器人。

Q：要實(shí)現(xiàn)類似GPT-5的模型，還需要克服哪些最大的挑戰(zhàn)和瓶頸?

奧特曼：關(guān)鍵點(diǎn)一直都是這些——更強(qiáng)大的計(jì)算能力？新的突破性進(jìn)展？還是別的什么？所有這些因素缺一不可。

OpenAI做得非常好的一點(diǎn)是“將200個(gè)中等規(guī)模的改進(jìn)組合在一起，變成一個(gè)龐然大物”，這實(shí)際上是Ilya的原話。

Q：所以這種分布式、持續(xù)的創(chuàng)新正在發(fā)生?

奧特曼：是的。

Q：在技術(shù)層面也是如此嗎?

奧特曼：尤其是在技術(shù)層面。

有些人需要考慮如何將所有這些拼湊在一起，但大多數(shù)人都試圖在頭腦中把握整個(gè)大局。

從高層次來(lái)看，你可能并不清楚每一個(gè)細(xì)節(jié)是如何運(yùn)作的，但我普遍認(rèn)為，有時(shí)從宏觀角度審視全局是非常有用的。這對(duì)技術(shù)問題和商業(yè)創(chuàng)新都適用。

但事情的發(fā)展往往會(huì)出人意料。即使大部分時(shí)間你都專注于某個(gè)特定領(lǐng)域，也能獲得令人驚訝的洞見。

我曾經(jīng)擁有的一項(xiàng)超級(jí)有價(jià)值的能力，就是對(duì)科技行業(yè)的所有或大部分前沿領(lǐng)域都有一個(gè)技術(shù)全景圖。有時(shí)我能看到這些領(lǐng)域之間的聯(lián)系，或一些可能出現(xiàn)的新事物。

但如果我只專注于一個(gè)領(lǐng)域，就不會(huì)有這些想法，因?yàn)槲覜]有全部的信息?，F(xiàn)在我已經(jīng)鉆研得非常深入了。

Q：你已經(jīng)不再是從前的你了。

奧特曼：現(xiàn)在的工作跟我以前的工作完全不同。

關(guān)于董事會(huì)：通往 AGI 的道路應(yīng)該是一場(chǎng)巨大的權(quán)力斗爭(zhēng)

Q：告訴我OpenAI董事會(huì)的故事。

奧特曼：……這絕對(duì)是我職業(yè)生涯中最痛苦的經(jīng)歷，充滿混亂、羞愧、不安以及許多其他負(fù)面的東西。不過其中也有美好的事情，但我希望當(dāng)時(shí)不要那么倉(cāng)促，以至于無(wú)法停下來(lái)欣賞它們……

整個(gè)周末，除了一個(gè)大的例外……有時(shí)候，我真的覺得這是AI安全史上最糟糕的事情之一。我也很高興這事發(fā)生得比較早。我認(rèn)為在 OpenAI 開始和我們創(chuàng)建 AGI 之間的某個(gè)時(shí)刻，會(huì)有一些瘋狂和爆炸性的事情發(fā)生，但可能還會(huì)有更瘋狂和爆炸性的事情發(fā)生。我認(rèn)為，它仍然幫助我們建立了一些彈性，并為未來(lái)的更多挑戰(zhàn)做好了準(zhǔn)備。

過去那個(gè)戲劇性周末并不是OpenAI真正意義所在。OpenAI真正意義在過去的7年。

Q：你有種感覺，你會(huì)經(jīng)歷某種權(quán)力斗爭(zhēng)？

奧特曼：通往 AGI 的道路應(yīng)該是一場(chǎng)巨大的權(quán)力斗爭(zhēng)。

Q：你覺得董事會(huì)權(quán)力太大了嗎？

奧特曼：我認(rèn)為董事會(huì)應(yīng)該擁有很大的權(quán)力，但我們確實(shí)看到，在大多數(shù)公司結(jié)構(gòu)中，董事會(huì)通常對(duì)股東負(fù)責(zé)。

有時(shí)人們擁有超級(jí)股票權(quán)的股份或其他東西。這種情況下，我認(rèn)為對(duì)結(jié)構(gòu)多加考慮的一點(diǎn)是，除非你制定了其他規(guī)則，否則非營(yíng)利組織的董事會(huì)擁有很大的權(quán)力。

他們只對(duì)自己負(fù)責(zé)，不對(duì)任何人負(fù)責(zé)。這在某些方面是好的，但我們真正希望的是，OpenAI 的董事會(huì)能夠?qū)φ麄€(gè)世界負(fù)責(zé)，因?yàn)檫@是一件很實(shí)際的事情。

關(guān)于Ilya在哪：我不方便透露

Q：Ilya是不是被關(guān)在某個(gè)秘密核設(shè)施里？

奧特曼：不是的。

Q：那么，他是不是在某個(gè)普通的秘密基地？

奧特曼：也不是。

Q：那他是不是在非秘密的核設(shè)施里？

奧特曼：不是的，以上都不是。

Q：你和Ilya認(rèn)識(shí)很久了，現(xiàn)在你們之間的關(guān)系如何？

奧特曼：我非常尊敬Ilya，不過關(guān)于他的計(jì)劃，他自己來(lái)說(shuō)更合適。但我真心希望我們能夠一直合作，直到我職業(yè)生涯的結(jié)束。他比我年輕，或許他的工作生涯會(huì)更長(zhǎng)一些。

Q：有傳言說(shuō)，Ilya可能已經(jīng)看到了一些關(guān)于AGI的東西，這讓他感到非常憂慮。他究竟看到了什么？

奧特曼：Ilya還沒有看到AGI，我們也都還沒有見過AGI。我之所以特別欣賞Ilya，其中一個(gè)原因是他對(duì)AGI以及與之相關(guān)的安全問題非常嚴(yán)肅認(rèn)真，他總是考慮這些技術(shù)對(duì)社會(huì)可能產(chǎn)生的影響。在我們不斷取得進(jìn)展的過程中，Ilya是我與之討論這些問題最多時(shí)間的人之一。所以，Ilya并沒有看到AGI。但他確實(shí)是人類在這一領(lǐng)域的功臣，為了確保我們能夠正確處理這些問題，他付出了很多思考和努力。

Q：每當(dāng)他談?wù)摷夹g(shù)時(shí)，他總是在進(jìn)行深遠(yuǎn)的思考，這使得他成為一個(gè)非常吸引人的人物。你知道他為什么保持沉默嗎？他是在進(jìn)行自我反省嗎？

奧特曼：我還是那句話，我不想替Ilya發(fā)言。我認(rèn)為你應(yīng)該直接問他。他絕對(duì)是一個(gè)有深度的思想家。我相信他一直在以一種很好的方式進(jìn)行自我反思。

Q：對(duì)，他還懂得沉默的力量。我還聽說(shuō)他有時(shí)候表現(xiàn)得有點(diǎn)傻氣，但我從未見過他那樣的一面。

奧特曼：最近我和他一起參加了一個(gè)晚宴，看到他正在和一只小狗玩耍，表現(xiàn)得非常親切和可愛。我當(dāng)時(shí)想，這真是外界很少見到的Ilya的另一面。

與馬斯克的官司：他曾想收購(gòu)我們

Q：關(guān)于馬斯克對(duì)OpenAI提起的訴訟，你如何看待他提出的批評(píng)？他的觀點(diǎn)有合理之處嗎？他的理解有哪些偏差？

奧特曼：我不太明白他訴訟的真正意圖。我們最初只是想建立一個(gè)研究實(shí)驗(yàn)室，對(duì)于這項(xiàng)技術(shù)的未來(lái)走向并沒有明確的預(yù)期。

那是在語(yǔ)言模型還未廣泛流行之前，我們還不清楚什么是API，也沒有想過要銷售Chatbot的訪問權(quán)限，更沒有考慮過產(chǎn)品化的問題。我們的初衷是僅僅進(jìn)行研究，對(duì)其他事情一無(wú)所知。

我認(rèn)為，對(duì)于許多顛覆性的新技術(shù)，我們往往在不確定中探索，并做出一些假設(shè)，而這些假設(shè)最終往往被證明是錯(cuò)誤的。

隨著時(shí)間的推移，我們意識(shí)到需要采取不同的策略，也需要更多的資金支持。因此，我們不斷調(diào)整結(jié)構(gòu)，每一步?jīng)Q策都是基于當(dāng)時(shí)的合理性。但這并不意味著如果我們能回到過去，我們會(huì)做出完全不同的選擇。

Q：你們這群熱衷于AGI研究的人曾被嘲笑，馬斯克也曾因談?wù)摶鸺艿劫|(zhì)疑，你認(rèn)為他對(duì)此有何感想？

奧特曼：不久之前，馬斯克還在熱衷于討論火箭發(fā)射，同樣遭到了人們的嘲笑。我本以為他會(huì)對(duì)我們的處境有更多的同情。

當(dāng)時(shí)，馬斯克選擇與我們分道揚(yáng)鑣，他認(rèn)為OpenAI會(huì)失敗，因此想要完全掌控局面。我們則希望繼續(xù)沿著現(xiàn)在OpenAI所走的道路前進(jìn)。他還曾希望特斯拉能夠開發(fā)出AGI。

在不同的時(shí)期，他都試圖將OpenAI轉(zhuǎn)變?yōu)橐患矣伤刂频臓I(yíng)利性公司，或者將其與特斯拉合并。

我們并不同意這樣的方向，所以他選擇離開，這也是他的自由。

Q：對(duì)于OpenAI這個(gè)名字中的“Open”，你是如何理解的？

奧特曼：如果可以回到過去，我會(huì)選擇一個(gè)不同的名字。OpenAI的核心使命是將先進(jìn)的技術(shù)作為公益事業(yè)免費(fèi)提供給公眾。

這種開放性對(duì)我們的使命至關(guān)重要。我相信，如果我們能夠向世界提供強(qiáng)大且成本低廉的人工智能工具，這將極大地推動(dòng)人類創(chuàng)造一個(gè)美好的未來(lái)。因此，我們將繼續(xù)致力于向全球提供免費(fèi)或低成本的先進(jìn)AI工具，這對(duì)于實(shí)現(xiàn)我們的使命至關(guān)重要。

Q：那么，對(duì)于馬斯克提議將OpenAI更名為CloseAI，你有何看法？

奧特曼：這反映了他對(duì)訴訟的重視程度，他的說(shuō)法讓我感到意外。

Q：但我認(rèn)為這起訴訟背后更重要的是對(duì)AGC以及OpenAI未來(lái)的立場(chǎng)表達(dá)。

奧特曼：Grok之前一直沒有開源任何產(chǎn)品，直到人們開始質(zhì)疑這種做法的虛偽性，他才宣布將在本周開源。我不認(rèn)為開源與否是他真正關(guān)心的問題。

Q：目前許多公司都在考慮開源策略，OpenAI是否有過類似考慮？

奧特曼：是的，開源模式在某些領(lǐng)域肯定會(huì)有其位置，特別是對(duì)于那些可以在本地運(yùn)行的小型模型，市場(chǎng)需求巨大。我認(rèn)為未來(lái)會(huì)同時(shí)存在開源和閉源的模式，這與其它技術(shù)生態(tài)系統(tǒng)并無(wú)二致。

Q：許多初創(chuàng)公司對(duì)OpenAI從非營(yíng)利組織轉(zhuǎn)變?yōu)橛镜淖龇ǜ械疥P(guān)注。

奧特曼：我會(huì)強(qiáng)烈建議這些公司三思而后行。我不認(rèn)為我們正在開創(chuàng)一個(gè)先例。

Q：你期待與馬斯克未來(lái)的關(guān)系如何發(fā)展？

奧特曼：我非常尊敬馬斯克，希望在未來(lái)我們能夠建立起友好的關(guān)系。

7萬(wàn)億美元？算力將成為未來(lái)的貨幣

Q：有報(bào)道稱你籌集了7萬(wàn)億美元？

奧特曼：我從沒說(shuō)過這樣的話。

Q：但你說(shuō)了：Fuck it， maybe eight。

奧特曼：我確實(shí)認(rèn)為算力將成為未來(lái)的“貨幣”。它可能會(huì)變成世界上最寶貴的資源，我們應(yīng)當(dāng)大量投資以提升計(jì)算能力。

這涉及到許多挑戰(zhàn)，比如能源供應(yīng)是最大的難題，數(shù)據(jù)中心的建設(shè)、供應(yīng)鏈管理以及芯片生產(chǎn)也同樣困難。但這是未來(lái)的發(fā)展方向。我們所需的計(jì)算量目前還難以估計(jì)。

Q：如何解決能源問題？你看好核能？

奧特曼：我確實(shí)看好核能。

Q：核聚變？

奧特曼：是的。我認(rèn)為我們應(yīng)該建造新的反應(yīng)堆?，F(xiàn)在該行業(yè)停滯不前實(shí)在是太可惜了。

關(guān)于谷歌：世界不需要另一個(gè)谷歌

Q：隨著GPT的發(fā)展，OpenAI是否有意接管谷歌20年前開始的業(yè)務(wù)？

奧特曼：我覺得這個(gè)問題很無(wú)聊。很多人試圖做出一個(gè)比 Google 更好的搜索引擎。但這涉及到技術(shù)、品牌以及生態(tài)系統(tǒng)等多方面的挑戰(zhàn)。

我不認(rèn)為世界需要另一個(gè)谷歌。

Q：將ChatBot與搜索引擎集成在一起。

奧特曼：這樣更酷。LLM加上搜索功能的整合，我認(rèn)為還沒有人能真正探索出來(lái)，我很樂意去嘗試。

Q：那你對(duì)廣告業(yè)務(wù)的看法呢？ 奧特曼：我討厭廣告。互聯(lián)網(wǎng)需要廣告來(lái)支撐，但我認(rèn)為這只是一時(shí)的產(chǎn)業(yè)。

我更傾向于人們?yōu)镃hatGPT付費(fèi)，而他們得到的答案不受廣告商的影響。這是一個(gè)簡(jiǎn)單直接的商業(yè)模式。

我在使用Twitter、Facebook、Google或其他依賴廣告的平臺(tái)時(shí)，并不喜歡它們。我認(rèn)為在AI時(shí)代，這種情況可能會(huì)變得更糟。

Q：像維基不做廣告是個(gè)非常大膽的舉動(dòng)，從商業(yè)角度OpenAI現(xiàn)在可持續(xù)的嗎？

奧特曼：我們必須找到增長(zhǎng)的方法，我相信我們會(huì)找到的。能否在沒有廣告的情況下運(yùn)營(yíng)一家偉大的企業(yè)，滿足計(jì)算需求？我相信這是可能的。

對(duì)于AGI的展望：任何人不應(yīng)該控制AGI

Q：您認(rèn)為我們何時(shí)能開發(fā)出AGI？

奧特曼：我曾經(jīng)喜歡猜測(cè)這個(gè)問題，但AGI的定義模糊不清。我認(rèn)為更有意義的是討論何時(shí)能實(shí)現(xiàn)具體功能，而非泛泛而談「何時(shí)達(dá)到這個(gè)里程碑」。
AGI不是終點(diǎn)，而是一個(gè)起點(diǎn)，是一個(gè)重要的里程碑。

預(yù)計(jì)到本十年末，甚至可能更早，我們將擁有強(qiáng)大的AI系統(tǒng)，讓人驚嘆“哇，這太了不起了”。

Q：但許多人認(rèn)為ChatGPT已經(jīng)是AGI。

奧特曼：是的，但我不認(rèn)為GPT-3.5改變了世界。它可能改變了人們對(duì)未來(lái)的期望，這非常重要。

這確實(shí)讓更多人重視這個(gè)問題，推動(dòng)我們進(jìn)入新的發(fā)展階段。因此，我不想再次低估它。我想在實(shí)現(xiàn)這一成就后退休對(duì)我的職業(yè)生涯感到滿意。但我不認(rèn)為會(huì)在回顧這一點(diǎn)時(shí)說(shuō)，這是一個(gè)真正改變了世界的門檻。

Q：所以你在尋找一些真正重大的變革。

奧特曼：是的，這正是我對(duì)AGI的期待之一。

Q：你期待的是奇點(diǎn)級(jí)別的變革嗎？

奧特曼：不，不是。我認(rèn)為，如果一個(gè)系統(tǒng)能顯著加快世界科學(xué)發(fā)現(xiàn)的速度，那將是一件大事。真正的經(jīng)濟(jì)增長(zhǎng)大多源自科技進(jìn)步。

Q：你一般能比其他人更先與AGI交流，你會(huì)問些什么？

奧特曼：研究人員會(huì)比我更早與AGI交流。但如果可能，我會(huì)問AGI：

請(qǐng)解釋一下物理學(xué)的萬(wàn)物理論。

Q：您可以問一些是非問題，比如“這樣的理論存在嗎？它能存在嗎？”或者“還有其他外星文明嗎？您的直覺是什么？”

奧特曼：是的，雖然我不指望第一個(gè)AGI能回答這些問題，即使只是是非問題。但如果可能，這些問題會(huì)是我提問的首選。

Q：誰(shuí)首先打造出AGI，將獲得巨大的權(quán)力。您覺得自己能掌控這樣的權(quán)力嗎？

奧特曼：我會(huì)非常誠(chéng)實(shí)地回答這個(gè)問題。我始終相信，無(wú)論是我還是其他人，都不應(yīng)完全控制OpenAI或AGI。

我們需要一個(gè)健全的治理體系。去年董事會(huì)的風(fēng)波讓我意識(shí)到，盡管董事會(huì)有權(quán)力解雇我，但實(shí)際上這并未發(fā)生。這是一種治理上的失敗。

我從未擁有過，也從未想要擁有對(duì)OpenAI的超級(jí)投票控制權(quán)。即使經(jīng)歷了這么多，我仍然不想要它。

我認(rèn)為任何公司都不應(yīng)做出這些決策，我們需要政府來(lái)制定規(guī)則。

我在OpenAI的發(fā)展過程中做出了一些好的和壞的決定，總的來(lái)說(shuō)，我對(duì)自己的表現(xiàn)感到自豪。但我不認(rèn)為任何個(gè)人應(yīng)該或能夠控制AGI，或影響AGI的發(fā)展方向。我不認(rèn)為這是正在發(fā)生的事情。

Q：你擔(dān)心失去對(duì)AGI的控制嗎？很多人擔(dān)心的不是國(guó)家行為者或安全問題，而是AI本身。

奧特曼：根據(jù)我目前的看法，這不是我最擔(dān)心的問題。

One More Thing

不過爆料了那么多，對(duì)于GPT-5發(fā)布時(shí)間還是三緘其口。

Lex Fridman說(shuō)：如果今年發(fā)布GPT-5話，就眨眼兩次。

奧特曼be Like：我忍住不眨。

完整版視頻鏈接：https://www.youtube.com/watch?v=jvqFAi7vkBc。