今天，OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家 Ilya Sutskever 發(fā)推宣告離職。

在 OpenAI 工作近 10 年后，我做出了離開的決定。OpenAI 的發(fā)展軌跡可以稱得上是奇跡，我相信 OpenAI 會(huì)在 Sam Altman、Greg Brockman 和 Mira Murati 的領(lǐng)導(dǎo)下，以及 Jakub Pachocki 的出色研究領(lǐng)導(dǎo)下構(gòu)建安全有益的 AGI。

能夠一起工作是一種榮幸，我會(huì)非常想念大家。這么久了，感謝你們大家所做的一切。我對(duì)接下來發(fā)生的事情感到興奮，接下來從事的這個(gè)項(xiàng)目對(duì)我來說非常有意義，我會(huì)在適當(dāng)?shù)臅r(shí)候分享細(xì)節(jié)。

Ilya Sutskever 還分享了與 Sam Altman、Greg Brockman 和 Mira Murati 等人的合照

OpenAI CEO 奧特曼在推特上發(fā)文表示，Ilya 與 OpenAI 的分道揚(yáng)鑣令人非常難過。

Ilya 無疑是我們這一代最偉大的思想家之一，是我們領(lǐng)域的指路明燈，也是我的摯友。他的才華和遠(yuǎn)見眾所周知;他的溫暖和同情心不那么廣為人知，但同樣重要。

沒有他，OpenAI 就不會(huì)是今天的樣子。盡管他有一件對(duì)他個(gè)人意義重大的事情要去做，但我永遠(yuǎn)感激他在這里所做的一切，并致力于完成我們一起開始的使命。我很高興在這么長時(shí)間里，我能如此接近這樣一個(gè)真正非凡的天才，以及一個(gè)如此專注于為人類帶來最佳未來的人。

Jakub Pachocki 將成為我們的新首席科學(xué)家。Jakub 同樣無疑是我們這一代最偉大的思想家之一;我很高興他將在這里接過接力棒。他負(fù)責(zé)過我們?cè)S多最重要的項(xiàng)目，我非常相信他將帶領(lǐng)我們快速而安全地朝著確保通用人工智能(AGI)惠及所有人的使命前進(jìn)。

即將成為下一任 OpenAI 首席科學(xué)家的 Jakub Pachocki 也對(duì)自己的前任 Ilya 表達(dá)了感謝。

Ilya 把我?guī)肓松疃葘W(xué)習(xí)研究的世界，多年來一直是我的導(dǎo)師和偉大的合作者。他對(duì)深度學(xué)習(xí)的令人難以置信的愿景成為 OpenAI 和 AI 領(lǐng)域如今的基礎(chǔ)。我非常感謝他與我們進(jìn)行了無數(shù)次對(duì)話，從有關(guān) AI 未來進(jìn)步的高層討論，到深入的技術(shù)白板會(huì)議。Ilya，我會(huì)想念與你一起工作的日子。

據(jù) OpenAI 官網(wǎng)介紹，新任 OpenAI 首席科學(xué)家 Jakub  Pachocki 擁有卡內(nèi)基梅隆大學(xué)理論計(jì)算機(jī)科學(xué)博士學(xué)位，自 2017 年以來一直領(lǐng)導(dǎo) OpenAI 的變革性研究計(jì)劃。此前他曾擔(dān)任 OpenAI 研究總監(jiān)，也是開發(fā) GPT-4 和 OpenAI Five 的帶頭人，還包括大規(guī)模 RL 和深度學(xué)習(xí)優(yōu)化方面的基礎(chǔ)研究。

OpenAI 表示：「他在重新調(diào)整公司愿景以擴(kuò)展深度學(xué)習(xí)系統(tǒng)方面發(fā)揮了重要作用?！?/p>

至此，Ilya Sutskever 和 OpenAI 八年的故事結(jié)束了。事實(shí)上，即使在一個(gè)沒有 OpenAI 的世界里，Ilya Sutskever 仍會(huì)載入人工智能史冊(cè)。

童年生活動(dòng)蕩，本科期間拜入 Hinton 門下

Ilya Sutskever 是以色列裔加拿大人，出生于前蘇聯(lián)，五歲隨家人移民耶路撒冷（因此他精通俄語、希伯來語和英語），2002 年搬到加拿大生活。

在多倫多大學(xué)讀本科期間，Ilya Sutskever 從一個(gè)叫做「改進(jìn)隨機(jī)鄰域嵌入算法」的項(xiàng)目開始，開始了與 Geoffrey Hinton 的合作，后來在攻讀博士學(xué)位時(shí)正式加入了 Hinton 的團(tuán)隊(duì)。

后來的事情我們都熟悉：2012 年，Hinton 帶著 Ilya Sutskever 和另一名研究生 Alex Krizhevsky 建立了一個(gè)名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，其識(shí)別照片中物體的能力遠(yuǎn)遠(yuǎn)超過了當(dāng)時(shí)的其他系統(tǒng)。

Ilya Sutskever（左）、Alex Krizhevsky（中）、Geoffrey Hinton（右）

Geoffrey Hinton、Yann LeCun、Yoshua Bengio 成為了深度學(xué)習(xí)三巨頭，并在 2018 年獲得了圖靈獎(jiǎng)，獲獎(jiǎng)理由就是「在神經(jīng)網(wǎng)絡(luò)方面的研究成果」。

但當(dāng) Ilya Sutskever 在 21 世紀(jì)初加入 Hinton 團(tuán)隊(duì)時(shí)，大多數(shù)人工智能研究者都認(rèn)為神經(jīng)網(wǎng)絡(luò)是一條死胡同。

「由于與 Geoffrey 合作，我有機(jī)會(huì)研究這個(gè)時(shí)代一些最重要的科學(xué)問題，并追求大多數(shù)科學(xué)家極不認(rèn)可、但事實(shí)證明完全正確的想法，」Ilya Sutskever 后來在一次采訪中說道。

AlexNet 是深度學(xué)習(xí)的爆發(fā)時(shí)刻。經(jīng)歷了多年的失敗之后，他所在的團(tuán)隊(duì)最早證明了模式識(shí)別問題可以被解決 —— 秘決就是一個(gè)經(jīng)過大量數(shù)據(jù)和算力訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)。

這種思路從計(jì)算機(jī)視覺延伸到了自然語言處理領(lǐng)域，同樣是 ChatGPT 取得如今成就的重要因素，包括 Sora 在視頻生成領(lǐng)域的成功也離不開這兩點(diǎn)。

2012 年畢業(yè)后，Ilya Sutskever 在斯坦福大學(xué)跟隨吳恩達(dá)做了兩個(gè)月的博士后，隨后返回多倫多大學(xué)并加入了 Hinton 研究小組的衍生公司 DNNResearch 。

2013 年 3 月，Google 收購了 DNNResearch，聘請(qǐng)了 Ilya Sutskever 擔(dān)任 Google Brain 的研究科學(xué)家。

「Ilya 一直對(duì)語言很感興趣，」現(xiàn)任谷歌首席科學(xué)家 Jeff Dean 說：「他對(duì)事物的發(fā)展方向有很強(qiáng)的直覺?！?/p>

在谷歌，Ilya Sutskever 展示了如何深度學(xué)習(xí)的模式識(shí)別能力應(yīng)用于數(shù)據(jù)序列，包括單詞、句子。他與 Oriol Vinyals 和 Quoc Le 合作創(chuàng)建了序列到序列（Seq2seq）學(xué)習(xí)算法，深度參與了 TensorFlow 的研究，也是 AlphaGo 論文的眾多作者之一。

加入 OpenAI，牽頭 GPT 系列研發(fā)

對(duì)語言的濃厚興趣，或許推動(dòng)了 Ilya Sutskever 加入 OpenAI 的腳步。

2015 年 7 月，Ilya Sutskeve 參加了 Y Combinator 總裁 Sam Altman 在 Sand Hill Road 一家餐廳舉辦的晚宴，在那里遇到了 Elon Musk 和 Greg Brockman。

那場(chǎng)晚宴上誕生了 OpenAI。在場(chǎng)的人就一件事達(dá)成了一致：它需要是一個(gè)非營利組織，沒有任何競(jìng)爭(zhēng)性的激勵(lì)措施來淡化其使命，還需要世界上最好的人工智能研究人員。

2015 年底，Ilya Sutskever 以「研究總監(jiān)」的頭銜開始領(lǐng)導(dǎo) OpenAI 的研究和運(yùn)營，這個(gè)組織還吸引了幾位世界知名的人工智能研究者，包括「GAN 之父」 Ian Goodfellow、UC 伯克利的 Pieter Abbeel 以及 Andrej Karpathy。

這家新公司擁有 10 億美元的資金支持，來自 Sam Altman、Elon Musk、Peter Thiel、Microsoft、Y Combinator 和其他公司），從一開始就把目光投向了 AGI，即使當(dāng)時(shí)很少有人認(rèn)真對(duì)待這一前景。

然而，最初的 OpenAI 卻舉步維艱。Ilya Sutskever 說：「在我們啟動(dòng) OpenAI 的時(shí)候，有一段時(shí)間我并不確定將如何繼續(xù)取得進(jìn)展。但我有一個(gè)非常明確的信念，那就是不能與深度學(xué)習(xí)對(duì)賭。不知怎的，每次遇到障礙，研究人員都會(huì)在半年或一年內(nèi)找到繞過它的方法?！?/p>

2016 年，OpenAI 的第一個(gè) GPT 大型語言模型問世。從 GPT-2 到 GPT-3，模型的能力越來越強(qiáng)大，證明了這條路線的實(shí)際正確性。每一次發(fā)布，OpenAI 都在不斷提高人們的想象力上限。

但 Ilya Sutskever 卻透露，真正讓 OpenAI 出圈的 ChatGPT 發(fā)布時(shí)，公司內(nèi)部對(duì)此的期望值很低：「你問它一個(gè)事實(shí)性的問題時(shí)，它會(huì)給你一個(gè)錯(cuò)誤的答案。我以為它會(huì)很平淡無奇，人們會(huì)說：你為什么要做這個(gè)？這太無聊了！」

將 GPT 模型封裝在一個(gè)易于使用的界面中并免費(fèi)開放，讓數(shù)十億人第一次了解到 OpenAI 正在構(gòu)建的東西。在此之前， ChatGPT 背后的大型語言模型已經(jīng)存在了幾個(gè)月。

ChatGPT 的成功，讓創(chuàng)始團(tuán)隊(duì)受到了前所未有的關(guān)注。

2023 年，OpenAI 的首席執(zhí)行官 Sam Altman 花了大半個(gè)夏天的時(shí)間，進(jìn)行了長達(dá)數(shù)周的外聯(lián)之旅 —— 與政客們交談，在世界各地座無虛席的禮堂發(fā)表演講。

作為首席科學(xué)家，Ilya Sutskever 保持著低調(diào)的風(fēng)格，也不經(jīng)常接受采訪，不像公司的其他創(chuàng)始成員那般是個(gè)公眾人物，而是把更多的精力放在了 GPT-4 上。

他對(duì)談?wù)撟约旱膫€(gè)人生活不感興趣：「我的生活很簡(jiǎn)單。去上班，然后回家。我不做其他事情。一個(gè)人可以參與很多社交活動(dòng)，可以參加很多活動(dòng)，但我不去?！?/p>

ChatGPT 的成果給他帶來了什么

今年早些時(shí)候，Hinton 曾公開表示對(duì)自己幫助發(fā)明的技術(shù)感到恐懼：「我從沒見過更高智能水平的東西被遠(yuǎn)遠(yuǎn)更低智能水平的東西控制的案例。」

作為 Hinton 的學(xué)生，Ilya Sutskever 沒有對(duì)這一言論發(fā)表評(píng)論，但他對(duì)超級(jí)智能負(fù)面影響的關(guān)注表明他們是同道中人。

隨著 GPT-4 以及后續(xù)一系列更強(qiáng)大的大語言模型的更新，以 Ilya Sutskever 為代表的一部分 OpenAI 成員越來越擔(dān)憂 AI 的可控性問題。

在 OpenAI 沸沸揚(yáng)揚(yáng)的「宮斗」事件之前，Ilya 曾接受過 MIT 科技評(píng)論記者的采訪。

他表示，自己的工作重點(diǎn)不再是制造下一代 GPT 或圖像制造機(jī) DALL-E，而是研究如何阻止人工超級(jí)智能（他認(rèn)為這是一種假想的未來技術(shù)，具有先見之明）的失控。

「Sutskever 還告訴了我很多其他事情 —— 他認(rèn)為 ChatGPT 可能有意識(shí)（如果你瞇著眼睛看的話）?！褂浾呷绱藢懙?。

Ilya Sutskever 認(rèn)為，世界需要清醒地認(rèn)識(shí)到 OpenAI 和其他公司正在努力創(chuàng)造的技術(shù)的真正威力。他還認(rèn)為，總有一天人類會(huì)選擇與機(jī)器融合。

一旦人工智能的水平超過人類，人類又該如何監(jiān)督比自己聰明得多的人工智能系統(tǒng)？

OpenAI 在 2023 年 7 月成立了「超級(jí)對(duì)齊」（Superalignment）團(tuán)隊(duì)，目標(biāo)是在四年內(nèi)解決超智能 AI 的對(duì)齊問題。Ilya Sutskever 是該項(xiàng)目的牽頭人之一，OpenAI 表示會(huì)將 20% 的算力專門用于該項(xiàng)目的研究。

在一次訪談中， Ilya Sutskever 大膽預(yù)言，如果模型能夠很好地預(yù)測(cè)下一個(gè)詞，那么意味著它能夠理解導(dǎo)致這個(gè)詞產(chǎn)生的深刻現(xiàn)實(shí)。這意味著，如果 AI 按照現(xiàn)有路徑發(fā)展下去，也許在不久的將來，一個(gè)超越人類的人工智能系統(tǒng)就會(huì)誕生。但更加令人擔(dān)心的是，「超級(jí)人工智能」可能會(huì)帶來一些意想不到的負(fù)面后果。這就是「對(duì)齊」的意義。

這個(gè)團(tuán)隊(duì)的第一篇成果發(fā)布于 2023 年 12 月：使用 GPT-2 級(jí)別的小模型來監(jiān)督 GPT-4 級(jí)別的大模型，能獲得接近 GPT-3.5 級(jí)別的性能，開辟了對(duì)超人類模型進(jìn)行實(shí)證對(duì)齊的新研究方向。

同時(shí)，OpenAI 宣布與 Eric Schmidt 合作，啟動(dòng)了一項(xiàng) 1000 萬美元的資助計(jì)劃支持技術(shù)研究，以確保超人類人工智能系統(tǒng)的一致性和安全性。

與 OpenAI 創(chuàng)始團(tuán)隊(duì)決裂

但從今天的結(jié)果來看，Ilya Sutskever 應(yīng)該是與 Sam Altman 所代表的派系產(chǎn)生了不可彌合分歧。

因?yàn)殛P(guān)于「宮斗事件」的過程，OpenAI 董事長兼聯(lián)合創(chuàng)始人 Greg Brockman 的說法是：

Sam 收到首席科學(xué)家 Ilya Sutskever 發(fā)來的要求周五中午溝通的短信。Sam 用 Google Meet 參加了這次會(huì)議，除了 Greg 之外，整個(gè)董事會(huì)成員都參與了這場(chǎng)會(huì)議。Ilya Sutskever 告訴 Sam 他將被解雇，并且消息很快就會(huì)發(fā)出。

當(dāng)天中午 12:19，Greg 收到 Ilya Sutskever 發(fā)來的短信，要求盡快電話溝通。12:23，Ilya Sutskever 收到 Google Meet 會(huì)議鏈接。Greg 被告知，他將被從董事會(huì)中除名(但他對(duì)公司至關(guān)重要，并將保留他的職位)，而 Sam 已被解雇。大約在同一時(shí)間，OpenAI 發(fā)布了公告。

OpenAI 在公告中稱 Altman 對(duì)董事會(huì)不夠坦誠。有人將其解讀為：OpenAI 可能已經(jīng)在內(nèi)部實(shí)現(xiàn)了 AGI，但并沒有將消息及時(shí)同步給更多人員，為了防止該技術(shù)未經(jīng)安全評(píng)估就被大規(guī)模應(yīng)用，Ilya 等人按下了緊急停止鍵。

據(jù) The Information 的報(bào)道，在 OpenAI 當(dāng)天舉行的全員會(huì)上，Ilya Sutskever 承認(rèn)了員工所說的這是一場(chǎng)「政變」。他表示「你可以這么說（是政變），但我覺得這只是董事會(huì)在履行自己的職責(zé)?！?/p>

當(dāng)然，這一切都只是猜測(cè)。

11 月底，Sam Altman 正式回歸 OpenAI。大局已定，Ilya Sutskever 沒有立即離開 OpenAI，但也沒有再出現(xiàn)在 OpenAI 舊金山的辦公室。

Sam Altman 表達(dá)了對(duì) Ilya Sutskever 的謝意，并希望繼續(xù)他們之間的工作關(guān)系：「我尊重并熱愛著 Ilya，我認(rèn)為他是這個(gè)領(lǐng)域的指路明燈，也是人類的瑰寶。我對(duì)他的惡意為零?！?/p>

Y Combinator 投資董事總經(jīng)理 Dalton Caldwell 曾回憶：「我記得 Sam Altman 說過 Ilya 是世界上最受尊敬的研究人員之一，他認(rèn)為 Ilya 能夠吸引很多頂尖的人工智能人才。他甚至提到，世界頂級(jí)人工智能學(xué)者 Yoshua Bengio 認(rèn)為，不可能找到比 Ilya 更好的人選來擔(dān)任 OpenAI 的首席科學(xué)家。」

最終接任的 Jakub Pachocki，或許也是 OpenAI 董事會(huì)深思熟慮之后的選擇。Jakub 2017 年就加入了 OpenAI，這也是他離開學(xué)校后的第一份工作。

What did Ilya see?

關(guān)于 Ilya 離開 OpenAI 的傳聞其實(shí)已經(jīng)傳了很久。在 OpenAI 發(fā)生「宮斗」、Sam Altman 被趕出 OpenAI 之際，有人傳言說 Ilya「看到了一些東西」，這些東西足夠強(qiáng)大，讓他對(duì) AI 的未來產(chǎn)生了擔(dān)憂，并重新思考 AI 的發(fā)展。但他究竟看到了什么，目前還無人知曉。

其實(shí)，Ilya 的這種擔(dān)憂并不是 ChatGPT 出來之后才有的。在拍攝于 2016 年至 2019 年的一段視頻中，Ilya 曾表示，在 AGI 實(shí)現(xiàn)的那一天，AI 未必會(huì)仇恨人類，但他們對(duì)待人類的方式可能會(huì)像人對(duì)待動(dòng)物一樣。人可能無意傷害動(dòng)物，但如果你想修一條城際高速，你不會(huì)征詢動(dòng)物的意見，而是直接去做。當(dāng)面臨這種情況時(shí)，AI 可能也會(huì)自然而然地做出類似的選擇。這是 Ilya 的 AI 哲學(xué)觀。

這就解釋了為什么 Ilya 總是對(duì) AI 的進(jìn)步憂心忡忡，并專注于 AI 對(duì)齊（讓 AI 與人類價(jià)值觀對(duì)齊）工作。

Ilya 何去何從？  

同為中途離開的 OpenAI 創(chuàng)始成員，馬斯克向 Ilya Sutskever 拋出過橄欖枝，表示 Ilya Sutskever 應(yīng)該加入特斯拉或 xAI。這會(huì)是他的下一步打算嗎？

鑒于加州沒有競(jìng)業(yè)禁止規(guī)定，Ilya Sutskever 可以立即去另一家公司工作或創(chuàng)辦另一家公司。

另一位知名的 OpenAI 員工 Andrej Karpathy 就曾經(jīng)在離開 OpenAI 后加入特斯拉，然后從特斯拉又回到 OpenAI，前不久再次宣布離開。2023 年底的「宮斗事件」發(fā)生時(shí)，Karpathy 正在休假，完全是「局外人」，但卻比 Ilya 早一步辦完離職手續(xù)。

真相究竟如何呢？我們不知道還有沒有機(jī)會(huì)得知。

Ilya Sutskever 說的很多話可能有些狂野，但在現(xiàn)在這個(gè)節(jié)點(diǎn)看，已經(jīng)沒有一兩年前那樣讓人感覺「瘋狂」了。正如他說的那樣，ChatGPT 已經(jīng)改寫了很多人對(duì)未來的預(yù)期，把「永遠(yuǎn)不會(huì)發(fā)生」變成了「會(huì)比你想象的更快發(fā)生」。

參考鏈接：

• https://twitter.com/sama/status/1790518031640347056
• https://twitter.com/ilyasut/status/1790517455628198322