出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
OpenAI CEO Sam Altman 和好友 Airbnb CEO Brian Chesky 與 NBC 主持人 Lester Holt 展開了一場(chǎng)圓桌討論。對(duì)話內(nèi)容廣泛涵蓋了人工智能 (AI) 在日常生活和工業(yè)應(yīng)用的各個(gè)方面的普遍影響，強(qiáng)調(diào)了AI能力的不斷增強(qiáng)將給社會(huì)帶來的廣泛變化。Altman提到，希望AI技術(shù)持續(xù)給人類帶來利益，讓他們?cè)谧约核龅氖虑橹邪l(fā)揮出最佳狀態(tài)。以下是經(jīng)過整理的圓桌全文：
1.AI技術(shù)的滲透：每個(gè)行業(yè)都將被AI改造
主持人：感謝大家來到這里。我對(duì)這次談話感到非常興奮。首先，我想介紹一下兩位嘉賓的好友關(guān)系，你們的工作在一些重要項(xiàng)目和事情上有過合作。所以我們也會(huì)探討其中的一些問題。如果你想知道為什么他們兩個(gè)會(huì)一起出現(xiàn)在這里，這就是為什么。非常感謝嘉賓的時(shí)間。讓我從一個(gè)角度來看，山姆，你認(rèn)為今天有多少觀眾以某種方式與AI互動(dòng)？
Sam Altman：我敢打賭……
主持人：順便說一下，我不打算讓你為預(yù)測(cè)結(jié)果負(fù)責(zé)。
Sam Altman：大約90%的觀眾。
主持人 ：我們大多數(shù)人甚至都不知道它在哪里影響了我們的生活。
Sam Altman：是的，你知道，有些人使用ChatGPT，但你不清楚你是否在使用它，因?yàn)樘嗳送ㄟ^采用我們的GPT-4或者其他模型，將AI集成到他們的其他服務(wù)中。你知道，這有點(diǎn)像是提升了很多服務(wù)。
主持人 ：在過去的一年里，AI是否已經(jīng)越過了一個(gè)關(guān)鍵的門檻？
Sam Altman：我認(rèn)為是的，但我認(rèn)為人工智能將跨越許多門檻。你知道，我們?cè)?jīng)，布萊恩實(shí)際上在這方面給了我很好的建議。我們?cè)?jīng)談?wù)撨^我們將會(huì)到達(dá)這個(gè)像AGI一樣的時(shí)刻。而且，你知道，這是一個(gè)非常不明確定義的術(shù)語。我認(rèn)為一開始就沒有感知以那種方式思考它。但我們過去是這樣的，現(xiàn)在我們考慮它，因?yàn)樗皇沁@一系列的門檻，系統(tǒng)將獲得新的和更好的能力。所以，你知道，今天你可以使用聊天來處理一些事情，將來你可以用它來完成更有用的任務(wù)。
你知道，也許今天有一些東西，比如……，我們的一個(gè)合作伙伴，Color Health現(xiàn)在正在使用GPT-4進(jìn)行癌癥篩查和治療計(jì)劃。這很好。也許未來的版本將有助于發(fā)現(xiàn)癌癥的治療方法。所以我認(rèn)為它是連續(xù)的門檻，但事實(shí)上，我們可以用自然語言與計(jì)算機(jī)交談，讓它們理解我們并幫助我們，這肯定是一個(gè)門檻。
主持人：我想談?wù)勛罱谛侣勚锌吹降囊恍┦虑?，并得到你的反?yīng)。有時(shí)。你很快就交了朋友和敵人。最近你和蘋果達(dá)成了一筆大交易。埃洛·馬斯克感到不滿，表示他不會(huì)允許蘋果產(chǎn)品出現(xiàn)在他的公司。你看到那種反應(yīng)了嗎？
Sam Altman：我看到它發(fā)生了，但，我有點(diǎn)懷疑這事是不是真的會(huì)發(fā)生，但我預(yù)測(cè)錯(cuò)了。
主持人：在OpenAI的邊緣地帶，其他科技公司對(duì)這一現(xiàn)象的反應(yīng)是否可以視作一些正在發(fā)生的事情？
Sam Altman：不，我認(rèn)為這就像通常的埃倫反應(yīng)一樣。
主持人 ：布萊恩，讓我轉(zhuǎn)向你。AirBNB最近選擇了一家AI創(chuàng)業(yè)公司。我們現(xiàn)在是否處于每個(gè)科技公司都必須參與這項(xiàng)行動(dòng)、建立合作伙伴關(guān)系或制定自己的發(fā)展計(jì)劃的階段？
Brian Chesky ：是的，我的意思是，我認(rèn)為就像現(xiàn)在一樣，幾乎世界上的每家公司都在互聯(lián)網(wǎng)上。AI將完全嵌入我們所做的一切中。
Brian Chesky：我認(rèn)為山姆令人難以置信的一件事是，就像山姆曾經(jīng)說過的那樣，如果你想成為一個(gè)偉大的企業(yè)家，你必須在職業(yè)生涯中的一件大事上做得正確。我認(rèn)為山姆對(duì)科技史上最重大的事情之一的看法是正確的，因?yàn)檫@將是一件比我們過去見過的任何技術(shù)都更能影響人們生活的事情。但我認(rèn)為很多對(duì)話，你知道，我們談?wù)摰腁I就像存在的、神秘的東西。我認(rèn)為我們?nèi)鄙俚囊患戮褪钦務(wù)撊藗兛梢詮闹惺芤娴膶?shí)際方式。
AirBNB是一個(gè)例子，但奧特曼也有很多例子。所以今天，AirBNB是你喜歡在城市中輸入的一種類型，你可以找到一個(gè)住所并預(yù)訂，這就是AirBNB。這基本上就是過去20年來互聯(lián)網(wǎng)的運(yùn)作方式。
但想象一下未來，系統(tǒng)會(huì)更好地理解你。這就是真正的承諾。一臺(tái)能夠理解你的電腦，他們會(huì)問你，好吧，你是誰？你的希望是什么，你的夢(mèng)想是什么，你想去哪里旅行？有一天你想用自己的人生做什么？然后它可以真正理解你，成為更好的媒人，真正理解你，并將你與人、社區(qū)、服務(wù)、經(jīng)驗(yàn)、任何你想旅行和生活在世界任何地方的人匹配。
這就是我認(rèn)為AirBNB可以使用的方式。但我認(rèn)為幾乎每個(gè)行業(yè)都可以通過AI進(jìn)行改造，而且我認(rèn)為他們可以參與其中。
2.理解大眾對(duì)AI的恐懼，AI安全要設(shè)置紅線
主持人 ：但這里的利害關(guān)系比你所說的更重要，我的意思是，你所談?wù)摰闹饕潜ж?fù)。但是有了AI，你會(huì)看到一些真正的恐懼，我認(rèn)為我們都理解這是什么意思。那么，對(duì)于運(yùn)營這個(gè)項(xiàng)目的人來說，這意味著什么呢？他們只是這輛公共汽車上的乘客，正在看著你們做這些不可思議的事情，談?wù)撍c曼哈頓項(xiàng)目（編者注：二戰(zhàn)期間美國主導(dǎo)的計(jì)劃，旨在研制原子彈）相比，想知道它將走向何方，想知道誰是背后的人？我們能相信這些人嗎？所以，如果可以的話，談?wù)劦赖仑?zé)任，讓我們所有人了解這些人，了解像你這樣正在做出這些改變的人。
Brian Chesky：是的，我的意思是，我可以分享它。我，你知道的，我在2008年遇到了山姆，當(dāng)我來到硅谷時(shí)，“技術(shù)” 這個(gè)詞可能就像 “好” 這個(gè)詞的字典定義一樣。我的意思是Facebook是一種分享朋友照片的方式。YouTube就像是一個(gè)看貓視頻的地方。推特就是在談?wù)撃憬裉煲龅氖虑?。我認(rèn)為有一種普遍的天真無邪。
我認(rèn)為隨著時(shí)間的推移，我們意識(shí)到的是當(dāng)你拿一個(gè)工具時(shí)，我認(rèn)為技術(shù)就是一個(gè)工具，你知道，史蒂夫·喬布斯說過的一件事是，他在每臺(tái)電腦后面加了一個(gè)手柄，因?yàn)樗f，永遠(yuǎn)不要相信電腦，否則你會(huì)想把它扔出窗外。他說，這些都是工具，我們注定要主宰它們。他們不會(huì)主宰我們。
我認(rèn)為發(fā)生的其中一件事是，當(dāng)你把工具交到億萬人手中時(shí)，你知道，他們會(huì)以你不打算使用的方式使用它。我認(rèn)為在這個(gè)新一代中，我們更加清醒和現(xiàn)實(shí)，因?yàn)槲艺J(rèn)為我們學(xué)到了上一代的很多教訓(xùn)。我們了解了技術(shù)如何被廣泛使用，但總會(huì)產(chǎn)生意想不到的后果。所以我認(rèn)為這一次，我看到山姆做的一件事是他對(duì)這項(xiàng)技術(shù)的發(fā)展非常謹(jǐn)慎，一點(diǎn)也不悲觀，并真正告訴政府實(shí)際上需要監(jiān)管。
主持人：山姆，我想要得到你的理解，給你一個(gè)機(jī)會(huì)談?wù)勀愕慕夤?。你被自己的公司解雇了，為什么?/p>
Sam Altman：讓我先談?wù)劜既R恩在你之前的問題中所說的一些話，然后我很樂意談?wù)勥@個(gè)問題。這將是社會(huì)的一個(gè)巨大變化。與其他技術(shù)趨勢(shì)不同，我們有點(diǎn)意識(shí)到，即使今天我們像，ChatGPT是非常有用的工具。而且，你知道的，一旦我使用它，我就不會(huì)害怕它。關(guān)于AI將走向何方，存在著感知可以理解的巨大焦慮。如果這些工具以它們一直在變得更有能力的速度不斷提高，并且有很多令人驚嘆的事情發(fā)生，這意味著什么？我們可以花費(fèi)一整天的時(shí)間談?wù)撨@個(gè)主題。
Sam Altman ：但即使我們解決了每一個(gè)安全問題，即使我們解決了每一個(gè)濫用問題，即使我們找出了完美的監(jiān)管制度，未來會(huì)是什么樣子？當(dāng)計(jì)算機(jī)不僅理解我們、了解我們、幫助我們、做這些事情，而且我們可以說，嘿，計(jì)算機(jī)，像發(fā)現(xiàn)所有的物理學(xué)，它可以去做這些事情時(shí)，我們的生活會(huì)是什么樣子？當(dāng)我們可以說 “嘿，開始并經(jīng)營一家偉大的公司” 時(shí)，這意味著什么？它能做到那個(gè)？這是一個(gè)很大的改變。我們必須贏得很多信任才能成為這些技術(shù)的管理者之一。會(huì)有很多其他人在研究這項(xiàng)技術(shù)。
我們?yōu)槲覀兊臉I(yè)績(jī)記錄感到自豪。我認(rèn)為，如果你看看我們推出的系統(tǒng)以及我們所花費(fèi)的時(shí)間和關(guān)注，我們已經(jīng)能夠?qū)⑺鼈冞_(dá)到普遍接受的穩(wěn)健性和安全性水平，這遠(yuǎn)遠(yuǎn)超出了幾年前我們推出這些初始系統(tǒng)時(shí)人們認(rèn)為我們能夠做到的程度。就像當(dāng)你看著GPT-2或GPT-3時(shí)，我們是否能夠讓它足夠安全地使用？很多人認(rèn)為，不，但是里面有這個(gè)東西，有這個(gè)，未來就像隱約可見的大。
我們必須繼續(xù)用我們所做的事情贏得信任，用我們?cè)谑澜缟辖⒌南到y(tǒng)，以及我們?nèi)绾螌?duì)這些系統(tǒng)進(jìn)行合法決策，如何廣泛地賦予人們權(quán)力，面對(duì)所有這些變化，我們?nèi)绾卫^續(xù)促進(jìn)世界的穩(wěn)定。這讓人們非常焦慮。就像整個(gè)董事會(huì)將我解雇并最終重返的事情所展現(xiàn)出來的那樣。布萊恩在那期間幫了我很大的忙。
這顯然是一次超級(jí)痛苦的經(jīng)歷，但我確實(shí)理解為什么焦慮水平如此之高，我認(rèn)為之前的董事會(huì)成員，就像他們對(duì)AI的持續(xù)發(fā)展感到緊張一樣，對(duì)我和我們的做事方式有任何感受。盡管我非常不同意他們的想法，以及他們自行為以來所說的話，但我認(rèn)為他們從根本上就像是好人，他們對(duì)未來感到緊張，并試圖找出我們?nèi)绾潍@得好的結(jié)果。
我對(duì)新的董事會(huì)非常興奮。他們非常有建設(shè)性、樂于助人、經(jīng)驗(yàn)豐富且堅(jiān)強(qiáng)，從那時(shí)起，這是一件非常富有成效的事情。但那是一次可怕的經(jīng)歷，而不是在那一刻，就像這是一件瘋狂的事情一樣。讓我們想出如何消除它，布萊恩對(duì)我非常有幫助，但在那之后的一段時(shí)間里，我不得不在這種情感沖擊的狀態(tài)下收拾殘局。
主持人：那真的很糟糕。你在試圖收拾殘局。而布萊恩特當(dāng)時(shí)和你通了電話。
Brian Chesky：解釋一下原因？也許只是追憶一下過去，當(dāng)ChatGPT發(fā)布時(shí)，它是在2022年十一月底發(fā)布的。這是自iPhone推出以來我們可能從未見過的現(xiàn)象。我什么都不記得了。我只記得一夜之間一切都改變了。
我記得與Sam見面時(shí)，我說過，你知道，我之前有一點(diǎn)類似火箭般的經(jīng)歷，我不會(huì)就AI的核心研究給你建議。但是當(dāng)涉及到市場(chǎng)營銷、利益相關(guān)者管理、公關(guān)、設(shè)計(jì)、產(chǎn)品和所有其他方面時(shí)，你們不會(huì)像坐上一艘火箭一樣飛速前進(jìn)。而我之所以處在今天的位置，是因?yàn)槿藗兿嘈盼遥藗儙椭宋?。硅谷的一大?yōu)點(diǎn)是它是一個(gè)高度信任的地方，人們會(huì)在這里提供幫助。所以我只是想幫助他（薄弱的地方）。
所以這種情況持續(xù)了大約一年，已經(jīng)是一年之后了，我得到了一個(gè)短信息，實(shí)際上是有人說山姆被解雇了。我就像被解雇了一樣。我立刻給他發(fā)短信，我想他發(fā)短信給我的時(shí)間是五分鐘后。他剛剛發(fā)現(xiàn)自己被解雇了，他說得很殘忍，我就去問，發(fā)生了什么事？所以我們接了電話，他不知道發(fā)生了什么，向他解釋道，順便說一句，他的聯(lián)合創(chuàng)始人，也曾是董事會(huì)成員，被從董事會(huì)中除名。這對(duì)我來說似乎非?？梢伞Ｋ晕液退透窭赘裢穗娫?，我對(duì)這種情況感到非常不舒服，認(rèn)為這不是一個(gè)公平的過程。我認(rèn)為這應(yīng)該是一個(gè)公平的過程，尤其是如果董事會(huì)成員是創(chuàng)始人的話，他們應(yīng)該非常難被替換。
在最初的24個(gè)小時(shí)里，我注意到的是，沒有多少人支持山姆。而在我最黑暗的危機(jī)時(shí)期，有人支持我，這就是我想為山姆做的事情。我基本上，我們討論了一些事情，我說我認(rèn)為對(duì)你來說最重要的事情就是在內(nèi)部和外部對(duì)你所知道的和正在發(fā)生的事情保持完全透明。但最值得注意的事情，也是讓我真正想要為他辯護(hù)的事情是，你知道，你學(xué)到了很多關(guān)于危機(jī)中的人的東西。如果你真的想知道是否有人想看到他們處于危機(jī)之中，并且在這五天內(nèi)從未發(fā)生過這種情況，山姆是否甚至有一秒鐘的時(shí)間專注于自我保護(hù)。
他完全，我就像，你為什么不專注在這里？你為什么不更關(guān)心自己呢？這就是我對(duì)他說的?？偟糜腥酥С帜恪Ｄ闵踔翞樽约憾鴪?jiān)持。他非常專注于團(tuán)隊(duì)，專注于什么對(duì)團(tuán)隊(duì)最好。我認(rèn)為這就是真正讓我如此強(qiáng)烈地專注于幫助的原因。
主持人：如果我能轉(zhuǎn)向你最近收到的一些不好的宣傳，包括Sky聲音帶來的一些傳聞，我想把山姆的形象抹黑了。有一件事可以幫助消除對(duì)于Skys與Scarlett Johansson的相似性的擔(dān)憂，那就是聽聽你所說的被聘請(qǐng)為Skys配音的演員的意見。這是你會(huì)做的事情嗎？
Sam Altman：當(dāng)然，如果她想的話。我的意思是，我知道Scarlett通過經(jīng)紀(jì)人發(fā)表了聲明，但我沒有。我不，我不知道我的意思，她想做的任何事我們都可以接受。
主持人：整個(gè)事情打開了，當(dāng)然還面臨一個(gè)更大的問題，我們擁有什么？在一個(gè)AI世界中，我們可以控制我們的肖像嗎？我們現(xiàn)在看到的，你知道的，深度假色情片，你知道的——人的臉被替換了。這些在個(gè)人層面上是有害的，我知道這并不是OpenAI獨(dú)有的，但這個(gè)行業(yè)將如何回應(yīng)呢？
Sam Altman：我的意思是，我們認(rèn)為行業(yè)需要在這方面采取超級(jí)強(qiáng)硬的態(tài)度。我們顯然是這樣做的，還有其他與這項(xiàng)技術(shù)如何被用來傷害人們相關(guān)的問題，我們認(rèn)為該行業(yè)需要采取非常強(qiáng)硬的立場(chǎng)。我們不僅試圖大聲呼吁監(jiān)管，以防止一些濫用和濫用的情況，我認(rèn)為這些情況正在發(fā)生，而且還試圖在我們提供的產(chǎn)品和服務(wù)中樹立一個(gè)非常好的榜樣，并堅(jiān)持自己。
主持人：非常好。但是這些事情是不可避免的嗎？我的意思是，隨著這項(xiàng)技術(shù)的成熟，你清楚地看到了風(fēng)險(xiǎn)，就像深度造假之類的東西。
Sam Altman：是的，這項(xiàng)技術(shù)將不可避免地具備這樣的能力。所以，你知道，當(dāng)然，它們將是被允許這樣做的系統(tǒng)，但我認(rèn)為這就是我們社會(huì)和政府可以發(fā)揮作用的地方，你知道，我們將允許一些我們不提倡的技術(shù)用例。但在某些地方，我們將畫一條底線，深度偽造的報(bào)復(fù)性色情應(yīng)當(dāng)被劃出界限。
主持人：我們即將舉行總統(tǒng)選舉，正如你所知，我們已經(jīng)看到一些深層次的偽造正在發(fā)生。多年來一直有人談?wù)撨@將是一場(chǎng)非常艱難的選舉。當(dāng)你開始看到這些東西出現(xiàn)時(shí)，你有什么想法？就你的責(zé)任而言，你所在的行業(yè)有責(zé)任確保我們不會(huì)被虛假信息淹沒？
Sam Altman：是的，所以，你知道，我認(rèn)為這將是第一次不僅有美國的選舉受影響，還有許多其他的選舉，在這些選舉中，AI成為了一個(gè)重要的技術(shù)元素。來源非常重要，準(zhǔn)確的民意調(diào)查信息，并避免我們?cè)谝郧暗募夹g(shù)平臺(tái)和其他選舉周期中看到的一些問題。而且，你知道，防止像深度造假這樣的事情，我認(rèn)為這是我們?cè)谶@個(gè)選舉周期中最重要的三個(gè)問題。我還會(huì)補(bǔ)充一點(diǎn)，可能還有其他的事情，人們?cè)噲D濫用的方式，我們還沒有意識(shí)到的濫用方式。所以我們建立了一個(gè)完整的監(jiān)控措施，我認(rèn)為隨著選舉的臨近，我們需要一個(gè)非常緊密的反饋循環(huán)，看看是否還有其他人們?cè)噲D濫用技術(shù)的領(lǐng)域。
主持人：當(dāng)我們談?wù)撨x舉的話題時(shí)，布萊恩，你先開始吧。你認(rèn)為這次選舉的結(jié)果會(huì)對(duì)你的個(gè)人企業(yè)產(chǎn)生什么影響？
Brian Chesky：很難說。我的意思是AirBNB更像是一個(gè)城市，一個(gè)州。因此，聯(lián)邦政府的變化在歷史上并沒有對(duì)我們產(chǎn)生巨大的影響。我們當(dāng)然在220個(gè)國家中有業(yè)務(wù)，所以我們是一個(gè)相當(dāng)有彈性的企業(yè)。我的意思是，我們?cè)谝咔槠陂g看到的一件事是，當(dāng)我們業(yè)務(wù)的一個(gè)部分發(fā)生變化時(shí)，它會(huì)從另一個(gè)部分取得平衡。所以我不認(rèn)為根據(jù)誰當(dāng)選會(huì)發(fā)生真正的大變化。你呢，山姆？
Sam Altman：我確實(shí)預(yù)計(jì)我們選舉后會(huì)產(chǎn)生一些重大影響，但我不知道如何做到。我不知道會(huì)是什么。在我看來，像AI一樣將成為世界上越來越重要的地緣政治優(yōu)先事項(xiàng)，但我很難說它將如何發(fā)展。
關(guān)于Brian，我真正珍視的一點(diǎn)是，Brian在他之前提到的那第一年，有點(diǎn)輕描淡寫了他對(duì)我?guī)椭淖饔弥蟆．?dāng)ChatGPT開始起飛，一切都為我瘋狂起來時(shí)，很多人都聯(lián)系我說，哦，我很樂意幫助你，我可以做這個(gè)，我可以做那個(gè)。你知道，每個(gè)人都忙碌，我想他們說的時(shí)候是認(rèn)真的，但每個(gè)人都很忙。Brian就像是那個(gè)每隔一周會(huì)坐下來跟我聊三個(gè)小時(shí)的人，給我傾聽，然后說，現(xiàn)在你得做這五件事情，這里你落后了，這里你搞砸了，這里你要主動(dòng)做，這里你要考慮一下。這基本上幾乎總是正確的。我學(xué)會(huì)了靜靜地聽取這些建議，跟隨Brian開始說的一些事情。
最近更重要的是，你可能沒有足夠考慮政治和政策，以及這對(duì)世界如何看待人工智能的影響。這里是你需要雇傭的人才。這里是，你需要像是制定這個(gè)計(jì)劃并思考戰(zhàn)略一樣的意義。這里是你應(yīng)該做和絕對(duì)不應(yīng)該做的事情。這些都非常有幫助。我確實(shí)認(rèn)為對(duì)我們的業(yè)務(wù)來說，這將非常重要。
3.GPT-6或GPT-7的賦能下，個(gè)人成就潛力將成倍增加
主持人：我想問一件事情，我們?cè)谘邪l(fā)ChatGPT和其他項(xiàng)目時(shí)學(xué)到的一點(diǎn)是，訓(xùn)練這些模型需要大量的數(shù)據(jù)。它似乎有一種無法滿足的需求。這是否改變了你對(duì)什么是公平使用以及可以使用誰的材料合作材料的看法？
Sam Altman：首先，我認(rèn)為我們還不知道這些模型變得聰明的未來會(huì)是什么樣子。你知道，我們永遠(yuǎn)都會(huì)需要越來越多的數(shù)據(jù)嗎？我感覺這不太可能是正確的。你知道，如果你想想一個(gè)人可以從閱讀一本教科書中學(xué)到什么，這與目前需要這些人工智慧模型學(xué)習(xí)的東西非常不同。所以我期望，并且也存在一個(gè)點(diǎn)，想要發(fā)明新科學(xué)，AI只需要坐在那里思考和進(jìn)行一些實(shí)驗(yàn)。但它沒有出現(xiàn)在任何教科書中，因?yàn)樗切碌闹R(shí)。所以我期待未來我們?nèi)绾慰创?xùn)練數(shù)據(jù)以及讓這些模型真正具備能力的方式。
主持人：這是否會(huì)成為發(fā)展中的障礙？這些是產(chǎn)品嗎？
Sam Altman：這就是我想說的。你知道，這就像科學(xué)一樣，我們并不確定。我認(rèn)為它不會(huì)。話雖如此，關(guān)于公平使用的問題，以及如何思考那些創(chuàng)造數(shù)據(jù)、創(chuàng)造知識(shí)、創(chuàng)作出優(yōu)秀書籍的人，我認(rèn)為，盡管從法律角度來看，我們對(duì)我們的公平使用立場(chǎng)感到有信心，但現(xiàn)在我們看到這可能發(fā)展的方向，我們需要找出新的經(jīng)濟(jì)模型，讓整個(gè)世界都能參與其中。
我認(rèn)為這不僅僅涉及到我們訓(xùn)練數(shù)據(jù)的人，我們已經(jīng)找到了許多不同的許可方式和做法，還包括那些向模型提供反饋的人，那些創(chuàng)造出實(shí)時(shí)新聞的人，也許模型沒有進(jìn)行訓(xùn)練，但你希望在特定時(shí)刻顯示出來，這需要大量的工作。你知道，我認(rèn)為人工智能可能會(huì)在一定程度上顯著改變?nèi)藗兪褂没ヂ?lián)網(wǎng)的方式。如果是這樣，你可以看到一些過去的經(jīng)濟(jì)模型正在演變。我認(rèn)為這不僅僅是關(guān)于訓(xùn)練數(shù)據(jù)的更廣泛的對(duì)話，而是關(guān)于內(nèi)容的一般性討論。
主持人：我想問一下關(guān)于人工通用智能的問題，它顯著地提升了這場(chǎng)游戲的水平。如果我理解正確，AGI就是當(dāng)計(jì)算機(jī)能夠做我們能做的任何事情時(shí)。這樣總結(jié)是否合理？
Sam Altman：你知道我認(rèn)為我最初認(rèn)為這是錯(cuò)誤的，就像我們談?wù)摰哪菢?。但在我看來，現(xiàn)在我認(rèn)為人們使用AGI來表示各種各樣的事情。在我看來，試圖為世界制定路線圖，我們認(rèn)為能力的顯著提高將是AI可以做人們可以做的事情，可以創(chuàng)造新的科學(xué)，可以做整個(gè)公司可以做的事情。感覺讓行業(yè)達(dá)成一致非常有用，這樣我們就可以以更有效率的方式進(jìn)行這些對(duì)話。
Brian Chesky：這就是我們談?wù)摰钠渲幸患?，就像透明地運(yùn)作，讓人們知道這可能不是從人工智能到AGI的普羅米修斯時(shí)刻，有很多很多步驟，就像科技更迭的故事一樣。而且非常重要的是，我們要帶領(lǐng)社會(huì)一起前進(jìn)，不要在這個(gè)黑匣子中運(yùn)作。人們認(rèn)為只有少數(shù)人控制未來，我們對(duì)其他開發(fā)者、計(jì)算機(jī)科學(xué)家和研究人員以及政策制定者是透明的。這些是我們正在采取的步驟。這就是我們所看到的，這就是我們認(rèn)為接下來的四個(gè)步驟看起來像但并非如此。
主持人：但這不是一個(gè)不同層次的競(jìng)賽嗎？賭注如此之高，當(dāng)然。我的意思是，你認(rèn)為自己在參與競(jìng)賽嗎？你認(rèn)為你能贏得通向人工通用智能的競(jìng)賽嗎？
Sam Altman ：我不認(rèn)為這是場(chǎng)競(jìng)賽。我理解為什么把它描述成一場(chǎng)非常吸引人的、戲劇性的競(jìng)賽，但我認(rèn)為可能在某些時(shí)候國家之間會(huì)存在競(jìng)爭(zhēng)。然而，目前正在開發(fā)這項(xiàng)技術(shù)的公司，我認(rèn)為每個(gè)人都明白必須把事情做對(duì)的重要性。還有，回應(yīng)布萊恩的觀點(diǎn)，不是說我們都在朝著某個(gè)里程碑競(jìng)賽。這是技術(shù)的持續(xù)演變——從把沙子熔化成晶體管，到開發(fā)操作系統(tǒng)，進(jìn)而推進(jìn)編程能力，現(xiàn)在再到訓(xùn)練越來越智能的系統(tǒng)。這些系統(tǒng)不是自主運(yùn)行的實(shí)體，而是增強(qiáng)我們能力的工具，就像電腦在人工智能出現(xiàn)之前所做的那樣，就像工業(yè)革命期間的機(jī)器所做的那樣，就像農(nóng)業(yè)使我們有時(shí)間和空間去做更多事情那樣。
我不認(rèn)為這是奔向某個(gè)特定目標(biāo)的競(jìng)賽；這是一個(gè)不斷進(jìn)步的過程。這些工具會(huì)不斷改進(jìn)，但重要的是要認(rèn)識(shí)到，技術(shù)和工具本身并不是中立的。我們開發(fā)這些工具所能帶來的影響是巨大的，因?yàn)槿藗儠?huì)使用這些工具來創(chuàng)造我們共同生活的未來。即使在ChatGPT出現(xiàn)之前，個(gè)人現(xiàn)在所能完成的事情已經(jīng)非常了不起。展望未來的GPT-6或GPT-7，個(gè)人成就的潛力將成倍增加，我對(duì)此感到非常興奮。在我看來，這就是世界不斷變得更好的故事——我們制造技術(shù)，賦予人們創(chuàng)造的能力，社會(huì)因此進(jìn)步。
主持人：是的，當(dāng)你談?wù)撨@些程序并賦予它們我們所擁有的能力時(shí)，我們也有一套價(jià)值觀，盡管各不相同。我們有時(shí)對(duì)待常識(shí)禮儀的看法并不那么一致。你如何以一種不會(huì)有害的方式將這些價(jià)值觀教給計(jì)算機(jī)呢？你如何教授積極的價(jià)值觀呢？
Sam Altman：有一件事讓我感到驚訝，我并不是說這能完全解決AI對(duì)齊問題，但在我們目前的系統(tǒng)水平上，我們教一個(gè)模型一套特定的價(jià)值觀并使其表現(xiàn)出特定行為的能力，比我預(yù)期的要好得多。現(xiàn)在有一個(gè)更難的問題，那就是誰來決定這些價(jià)值觀是什么，誰來決定默認(rèn)設(shè)置是什么，個(gè)人用戶在這些廣泛的界限內(nèi)可以多大程度地自定義它們？作為早期的一步，我們大約一兩個(gè)月前推出了一項(xiàng)名為“規(guī)范”的東西，我們?cè)噲D說，這就是我們期望的模型行為，這是我們希望模型遵循的價(jià)值觀，這樣人們至少可以知道，當(dāng)模型做了他們不喜歡的事情時(shí)，這是一個(gè)錯(cuò)誤還是有意為之。隨著時(shí)間的推移，社會(huì)可以討論這些價(jià)值觀是什么，我們可以適應(yīng)這些變化。所以，我對(duì)我們?cè)谶@個(gè)話題上的技術(shù)進(jìn)展感到非常鼓舞，但天哪，寫出那套價(jià)值觀并讓社會(huì)討論并達(dá)成共識(shí)，這是一個(gè)更大的挑戰(zhàn)。
4.AI與下一次經(jīng)濟(jì)騰飛，十年內(nèi)全球GDP將翻倍
主持人：布萊恩，正如你所說的，你時(shí)不時(shí)地會(huì)給山姆一些建議。我讀到過某個(gè)地方的一句話，我現(xiàn)在沒有確切的引用在手頭，至少我現(xiàn)在找不到，但大意是“先去做，再去想辦法”。我不知道具體是怎么說的。這種想法是你認(rèn)為在這種研究上需要大膽去做，有沒有什么需要?jiǎng)x車的地方呢？
Brian Chesky ：嗯，是的，我的意思是，如果你想象自己在開車，車速越快，你就越需要看得更遠(yuǎn)，預(yù)判前方的彎道。我認(rèn)為我們都承認(rèn)這項(xiàng)技術(shù)非常強(qiáng)大，這就是為什么我們?nèi)绱酥?jǐn)慎的原因。人們確實(shí)在苦思冥想如何處理這些系統(tǒng)。我記得我們?cè)?007年、2008年時(shí)并沒有這么做。所以我確實(shí)認(rèn)為現(xiàn)在是一個(gè)非常不同的時(shí)代。我和山姆討論的一件事就是要盡早引入其他利益相關(guān)者。你去年做的一件事是環(huán)游世界，與人們見面。我認(rèn)為這主要是一種從人們那里獲得反饋、教育人們并真正獲得反饋的方法。
Brian Chesky：我認(rèn)為關(guān)鍵的一點(diǎn)是，萊斯特，我們從來不會(huì)快到把社會(huì)甩在身后，我們只會(huì)以能夠帶動(dòng)每個(gè)人的速度前進(jìn)。如果每個(gè)人都覺得自己可以參與其中，并且可以提供自己的意見，那么我認(rèn)為就沒有什么可怕的。我認(rèn)為可怕的是我們不了解的東西，或者我們被排除在外的東西，那些我們無法控制的東西。這是我們不想生活的未來。此外，很有趣的是，如果你說“人工智能”這個(gè)詞，可能會(huì)讓人感到害怕。但你說“ChatGPT”，聽起來就不那么可怕，因?yàn)樗且粋€(gè)非常具體的工具。所以我認(rèn)為我們也需要關(guān)注眼前的事物，思考我們?nèi)绾文軌驇椭藗儭?/p>
現(xiàn)在有很多問題。OpenAI，可以推動(dòng)大量的科學(xué)研究和發(fā)現(xiàn)。ChatGPT可以成為藝術(shù)家的一個(gè)令人難以置信的工具，你知道AirBNB，我們認(rèn)為它可以真正將人們聚集在一起。我們生活名為“孤獨(dú)”的巨大流行病中，我們可以利用它來幫助人們團(tuán)結(jié)在一起。歸根結(jié)底，問題不在技術(shù)，而在人。隨著技術(shù)的發(fā)展。它總是歸結(jié)于人們，他們的價(jià)值觀，以及他們是好人嗎？
Sam Altman：我對(duì)此的看法是，我們需要學(xué)習(xí)如何制造安全的技術(shù)，如何開發(fā)安全的產(chǎn)品，這包括與社會(huì)進(jìn)行持續(xù)對(duì)話，比如，“嘿，這個(gè)技術(shù)產(chǎn)生了我沒預(yù)料到或不希望的影響。” 還有，“你不讓我做這件對(duì)我來說非常重要的事情，因?yàn)槟銢]有理解其中的原因?！?我們需要與更廣泛的世界以及使用和受我們產(chǎn)品影響的人們交流，傾聽他們的需求，同時(shí)制定一個(gè)安全的操作計(jì)劃，以便我們能夠越來越好地預(yù)測(cè)技術(shù)的能力。
當(dāng)然，研究是一個(gè)開放性的問題。你并不總是知道它會(huì)去哪里。但在我們開始訓(xùn)練一個(gè)新模型之前，我們希望能夠說，以下是我們認(rèn)為可能發(fā)生的危險(xiǎn)能力。我們有一個(gè)準(zhǔn)備框架來測(cè)試它們。
有時(shí)這需要很長(zhǎng)時(shí)間。例如，從我們完成培訓(xùn)到發(fā)布GPT-4，我們有大約八個(gè)月的時(shí)間，包括很多外部咨詢和紅隊(duì)合作。未來的模型可能需要更長(zhǎng)的時(shí)間，但從社會(huì)獲得反饋非常重要。我認(rèn)為有一件事是不好的，那就是讓一個(gè)巨大的能力過剩建立起來。然后我們還沒有與社會(huì)建立反饋循環(huán)。所以我們確實(shí)需要弄清楚如何平衡這一點(diǎn)。但是，你知道，花時(shí)間把事情做好是非常重要的。
主持人：你是否曾經(jīng)傾向于，認(rèn)為你會(huì)傾向于回頭去看未來，并發(fā)現(xiàn)它可能像一些人建議的那樣可怕？你是否準(zhǔn)備好迎接這樣一個(gè)時(shí)刻，即使你的競(jìng)爭(zhēng)對(duì)手可能想要前進(jìn)，你也必須退后一步？
Sam Altman：當(dāng)然，我們已經(jīng)建立了一些東西，并選擇不發(fā)布或長(zhǎng)時(shí)間保留。有很多其他公司會(huì)發(fā)布我們不會(huì)發(fā)布的東西。當(dāng)然，我們不會(huì)讓每個(gè)決定都正確。我們也可能在某個(gè)時(shí)候部署一些東西并需要收回它。但也會(huì)有一些東西我們只是不部署。
主持人：你知道，我們談?wù)撨@些可怕的圖像，當(dāng)你比較AI、曼哈頓項(xiàng)目、制造原子武器的競(jìng)賽時(shí)，這有幫助嗎？當(dāng)你試圖說明你的理由時(shí)，這對(duì)你有幫助嗎？
Sam Altman：我的意思是，我們?cè)噲D給出一些歷史類比，因?yàn)槲覀冋J(rèn)為這很重要。我們可能是錯(cuò)的，我們可能是對(duì)的，但對(duì)我們來說，告訴社會(huì)我們相信這項(xiàng)技術(shù)的重要性是非常重要的。任何新技術(shù)都沒有完美的歷史模擬。所以我們可以說曼哈頓項(xiàng)目有些事情就像我們現(xiàn)在正在做的那樣。有一些關(guān)于阿波羅計(jì)劃的東西，有一些關(guān)于iPhone的東西，有一些關(guān)于那個(gè)帶有手柄的iMac的東西，我也非常喜歡，還有一些關(guān)于互聯(lián)網(wǎng)的東西。有一些關(guān)于工業(yè)革命的事情。但我認(rèn)為重要的是要說，這里有一些部分我們可以用歷史類比來類比，而這里有一些我們不能類比的部分，而且這項(xiàng)技術(shù)的形態(tài)、決策和影響從根本上來說有點(diǎn)不同，我認(rèn)為。
Brian Chesky：我認(rèn)為它與曼哈頓項(xiàng)目不同。這不是一場(chǎng)比賽，也不會(huì)秘密進(jìn)行。我認(rèn)為各國可以合作，并且可能會(huì)有一個(gè)跨國的團(tuán)體或機(jī)構(gòu)，能夠真正地達(dá)成一致，以確保我們都在同一頁面上，這對(duì)社會(huì)是最好的，坦率地說，可能對(duì)企業(yè)家來說是最好的，這樣他們就不必遵守像200個(gè)不同的法律一樣。
Sam Altman：我們認(rèn)為，建立某種全球框架與合作非常重要。我認(rèn)為我們真的需要那個(gè)。
主持人：我想你們中有一個(gè)人提到過民族國家存在風(fēng)險(xiǎn)，它正在以一種危險(xiǎn)的方式利用這項(xiàng)技術(shù)。
Brian Chesky：絕對(duì)的，而且我，你知道，我認(rèn)為你必須總是非常非常小心，比如這項(xiàng)技術(shù)是誰掌握的，你把這項(xiàng)技術(shù)交給誰。我認(rèn)為這可以追溯到山姆思考的一些事情。就像我們喜歡的東西之一，我知道他們?cè)缙陂_發(fā)但選擇不發(fā)布的就像語音克隆，對(duì)吧？已經(jīng)有技術(shù)可以讓你基本上像捕捉某人的聲音一樣，但顯然這將是非常危險(xiǎn)的，因?yàn)轱@然你可以想象它會(huì)如何損害選舉和重大的安全風(fēng)險(xiǎn)。所以我認(rèn)為其中一件事就是思考，這些工具最終會(huì)落入誰的手中。因此，如果你讓精靈從瓶子里出來，會(huì)不會(huì)變得太危險(xiǎn)？所以要非常深思熟慮。
主持人：根據(jù)一份報(bào)告，你猜測(cè)人工智能和通用智能可以積累多達(dá)100萬億美元的財(cái)富。那就是你說你會(huì)重新分配的財(cái)富。這是一個(gè)準(zhǔn)確的引用嗎？我想對(duì)此進(jìn)行擴(kuò)展。
Sam Altman：我認(rèn)為我想要表達(dá)的觀點(diǎn)是，我認(rèn)為我可以把世界的國內(nèi)生產(chǎn)總值（GDP） 翻倍，這對(duì)我來說是合理的，而且肯定會(huì)與其他技術(shù)革命保持一致。是的，我們確實(shí)認(rèn)為這將成為生產(chǎn)力的巨大驅(qū)動(dòng)力，并且已經(jīng)處于早期階段，看看人們正在做什么，以極大地改善產(chǎn)品和服務(wù)。
主持人：你明白這對(duì)很多人來說是什么聲音嗎？
Sam Altman：肯定的，當(dāng)然。但我認(rèn)為這就是歷史類比有幫助的地方，這也是查看世界國內(nèi)生產(chǎn)總值（GDP） 隨時(shí)間變化的圖表有幫助的地方。而且，你知道，如果世界國內(nèi)生產(chǎn)總值（GDP） 能夠以每年7% 的速度增長(zhǎng)，這聽起來非?？?，但也許像這樣的技術(shù)變革并不遙遠(yuǎn)。在我的腦海中，我總是不擅長(zhǎng)做這件事，但我認(rèn)為這只需要十年的時(shí)間就可以翻倍了。所以我認(rèn)為，你知道，我認(rèn)為值得認(rèn)真考慮這項(xiàng)技術(shù)的潛力，以做出巨大的貢獻(xiàn)。我認(rèn)為隨著人們采用工具預(yù)覽，我們現(xiàn)在可以看到更多的東西。
主持人 ：如果你愿意，為了我們。GPT-5，技術(shù)的飛躍會(huì)是什么？這是否讓你走上了一條通往你想去的地方的直路？
Sam Altman：它是否讓我們走上了什么道路？
主持人：抱歉，哪條路？它是否讓你在目標(biāo)方面走得更直？
Sam Altman：所以我們還不知道，你知道，我們很樂觀，但我們?nèi)杂泻芏喙ぷ饕?，但我預(yù)計(jì)這將是一個(gè)重大的飛躍，很多GPT-4出錯(cuò)的事情，你知道，在推理方面做不了什么，有時(shí)只是完全偏離了軌道，就像犯了一個(gè)愚蠢的錯(cuò)誤，就像一個(gè)六歲的孩子永遠(yuǎn)不會(huì)犯的錯(cuò)誤。我期望在這些方面它對(duì)我來說好得多，并且能夠用于更廣泛的更有幫助的任務(wù)。
主持人：ChatGPT有時(shí)候會(huì)犯錯(cuò)。這是回到我們談?wù)摂?shù)據(jù)缺乏或數(shù)據(jù)短缺的地方的結(jié)果嗎？
Sam Altman：我認(rèn)為這是許多事情的結(jié)合。我們?cè)陂_發(fā)如此復(fù)雜的系統(tǒng)方面還處于早期階段，存在數(shù)據(jù)問題，算法問題，相對(duì)于將來的模型來說，仍然很小。我們知道他們會(huì)以可預(yù)見的方式變得更好。所以我認(rèn)為更像是有很多事情需要我們?nèi)ジ倪M(jìn)，而且我們?nèi)匀惶幱诩夹g(shù)的早期，你知道，第一款iPhone仍然存在很多問題，但它已經(jīng)足夠好，可以對(duì)人們有用了。
Brian Chesky：是的，我認(rèn)為在接下來的幾年里，世界上的事情不會(huì)發(fā)生如此大的變化。人們認(rèn)為這不是線性的。事情會(huì)慢慢改變。然后可能突然之間，我想每個(gè)人都還在試圖弄清楚如何使用這項(xiàng)技術(shù)。
如果你拿起你的手機(jī)，看看你的主屏幕，問自己在ChatGPT推出一年半后，有多少應(yīng)用程序因?yàn)锳I而有根本的不同？它們中很少有根本不同的。所以我認(rèn)為我們?nèi)匀辉谶@個(gè)世界上，我們正在開發(fā)很多計(jì)算。山姆和團(tuán)隊(duì)正在開發(fā)模型，當(dāng)人們?cè)谶@些模型和應(yīng)用程序的基礎(chǔ)上構(gòu)建時(shí)，很多大小的變化可能會(huì)發(fā)生，而且它有很多用途。
我的意思是，你知道，我們正在談?wù)摰囊粋€(gè)重要用例是科學(xué)發(fā)現(xiàn)。你知道，想想這會(huì)對(duì)藥物研究產(chǎn)生什么影響，你知道，社會(huì)上一些最大的弊病類型。這與教育有很多關(guān)系。我們認(rèn)為這基本上可以讓世界各地的每個(gè)人，有創(chuàng)造力的人都能接觸到導(dǎo)師。我知道有很多人擔(dān)心藝術(shù)家可以被取代，但是，你知道，我認(rèn)為如果藝術(shù)家參與，我去了設(shè)計(jì)學(xué)校，我認(rèn)為這是他們可以使用的技術(shù)，所以我認(rèn)為我們可以繼續(xù)下去。我認(rèn)為在接下來的3到5年里，將會(huì)有很多令人興奮的機(jī)會(huì)。
主持人：山姆，五年后你想達(dá)到什么水平？
Sam Altman：進(jìn)一步沿著這條道路？你知道的，工作中最有趣的部分之一是每天收到大量的電子郵件，這些郵件來自以各種驚人方式使用這些工具的人。我，比如說，有一個(gè)健康問題困擾了我多年，我一直沒能弄清楚，讓我的生活痛苦不堪。我把癥狀輸入ChatGPT，得到了一個(gè)建議，于是去看醫(yī)生，現(xiàn)在完全治好了，或者我一直試圖學(xué)習(xí)某些東西卻做不到，然后ChatGPT成了我的導(dǎo)師，或者我是一個(gè)開發(fā)人員，用它后生產(chǎn)力提高了三倍，做了很多驚人的事情。我是一個(gè)科學(xué)家，使用它，我喜歡收到這些反饋。我真的很喜歡人們對(duì)ChatGPT的熱愛。五年后，我希望能看到更多這樣的情況。我希望我們推出的這個(gè)工具能繼續(xù)帶給人們歡樂，讓他們?cè)谧约核龅氖虑橹邪l(fā)揮出最佳狀態(tài)。
主持人：好的，我們將會(huì)有更多這樣的對(duì)話，當(dāng)然當(dāng)你走下去時(shí)，但我想感謝你們兩個(gè)山姆·阿爾特曼和布萊恩·切斯基抽出時(shí)間在這里和我們?cè)谝黄?。問我，很棒的?duì)話，謝謝。和你在一起，感謝你的收看，隨時(shí)了解NBC新聞應(yīng)用程序的突發(fā)新聞和頭條新聞，或者在社交媒體上關(guān)注我們。
