自 5 月 15 日從 OpenAI 離職后，OpenAI 前首席科學(xué)家 Ilya Sutskever 官宣了自己的新動向。

今日凌晨，Ilya 在社媒 X 上表示自己創(chuàng)立了一家新公司——「安全超級智能」(Safe SuperIntelligence，SSI)。

該公司的目標(biāo)和產(chǎn)品非常明確、單一：追求安全的超級智能，希望通過一支精干頂尖的小團隊取得革命性的成果，進而實現(xiàn)這一目標(biāo)。

以下是 SSI 公司的公告：

超級智能已經(jīng)觸手可及。

構(gòu)建安全超級智能(SSI)是我們這個時代最重要的技術(shù)難題。

我們已經(jīng)啟動了世界上第一個專注于SSI的實驗室，目標(biāo)和產(chǎn)品都只有一個：安全超級智能。

這個實驗室名為「Safe Superintelligence Inc」。

SSI是我們的使命、我們的名稱和我們的整個產(chǎn)品路線圖，它是我們唯一的關(guān)注點。我們的團隊、投資人和商業(yè)模式都致力于實現(xiàn)SSI。

我們將安全性和能力視為通過革命性工程和科學(xué)突破來解決的技術(shù)難題。我們計劃盡快提高能力，同時確保安全性始終保持領(lǐng)先地位。

這樣，我們就可以安心地擴展規(guī)模。

我們專注于一個目標(biāo)(SSI)，這意味著不會受到管理開銷或產(chǎn)品周期的干擾。我們的商業(yè)模式可以確保安全、進步等都不受短期商業(yè)壓力的影響。

我們是一家美國公司，在帕洛阿爾托和特拉維夫均設(shè)有辦事處。在那里，我們有著深厚的根基，并有能力招募頂尖的技術(shù)人才。

我們正在組建一支精干、頂尖的團隊，由世界上最優(yōu)秀的工程師和研究人員組成。他們將專注于SSI，不做其他任何事情。

如果你是這樣的人，我們將提供一個機會，讓你從事一生的事業(yè)，幫助解決我們這個時代最重要的技術(shù)挑戰(zhàn)。

現(xiàn)在是時候了，加入我們吧。

公告地址：https://ssi.inc/

公告中出現(xiàn)的另外兩位聯(lián)合創(chuàng)始人分別為前蘋果AI高管、Y-Combinator 的合伙人Daniel Gross和前OpenAI技術(shù)團隊成員Daniel Levy。

Daniel Gross表示自己很高興和榮幸與Ilya和Daniel Levy開啟這一新事業(yè)。

Daniel Levy則表示，很難想象在人類歷史的這一時刻從事任何其他工作。

Ilya 與 OpenAI 的故事

Ilya Sutskever 是以色列裔加拿大人，出生于前蘇聯(lián)，五歲隨家人移民耶路撒冷(因此他精通俄語、希伯來語和英語)，2002 年搬到加拿大生活。

在多倫多大學(xué)讀本科期間，Ilya Sutskever 從一個叫做「改進隨機鄰域嵌入算法」的項目開始，開始了與 Geoffrey Hinton 的合作，后來在攻讀博士學(xué)位時正式加入了 Hinton 的團隊。

后來的事情我們都熟悉：2012 年，Hinton 帶著 Ilya Sutskever 和另一名研究生 Alex Krizhevsky 建立了一個名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，其識別照片中物體的能力遠遠超過了當(dāng)時的其他系統(tǒng)。

Ilya Sutskever(左)、Alex Krizhevsky(中)、Geoffrey Hinton(右)

AlexNet 是深度學(xué)習(xí)的爆發(fā)時刻。經(jīng)歷了多年的失敗之后，他所在的團隊最早證明了模式識別問題可以被解決——秘決就是一個經(jīng)過大量數(shù)據(jù)和算力訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)。

這種思路從計算機視覺延伸到了自然語言處理領(lǐng)域，同樣是ChatGPT取得如今成就的重要因素，包括Sora在視頻生成領(lǐng)域的成功也離不開這兩點。

2012 年畢業(yè)后，Ilya Sutskever 在斯坦福大學(xué)跟隨吳恩達做了兩個月的博士后，隨后返回多倫多大學(xué)并加入了Hinton 研究小組的衍生公司 DNNResearch 。

2013 年 3 月，Google 收購了 DNNResearch，聘請了Ilya Sutskever 擔(dān)任 Google Brain 的研究科學(xué)家。

在谷歌，Ilya Sutskever展示了如何深度學(xué)習(xí)的模式識別能力應(yīng)用于數(shù)據(jù)序列，包括單詞、句子。他與Oriol Vinyals和Quoc Le合作創(chuàng)建了序列到序列(Seq2seq)學(xué)習(xí)算法，深度參與了TensorFlow的研究，也是AlphaGo論文的眾多作者之一。

對語言的濃厚興趣，或許推動了Ilya Sutskever加入OpenAI的腳步。

2015 年 7 月，Ilya Sutskeve 參加了 Y Combinator 總裁 Sam Altman 在 Sand Hill Road 一家餐廳舉辦的晚宴，在那里遇到了 Elon Musk 和 Greg Brockman。

那場晚宴上誕生了OpenAI。在場的人就一件事達成了一致：它需要是一個非營利組織，沒有任何競爭性的激勵措施來淡化其使命，還需要世界上最好的人工智能研究人員。

2015 年底，Ilya Sutskever 以「研究總監(jiān)」的頭銜開始領(lǐng)導(dǎo) OpenAI 的研究和運營，這個組織還吸引了幾位世界知名的人工智能研究者，包括「GAN 之父」 Ian Goodfellow、UC伯克利的 Pieter Abbeel 以及 Andrej Karpathy。

2016 年，OpenAI 的第一個 GPT 大型語言模型問世。從GPT-2 到 GPT-3，模型的能力越來越強大，證明了這條路線的實際正確性。每一次發(fā)布，OpenAI 都在不斷提高人們的想象力上限。

但Ilya Sutskever卻透露，真正讓OpenAI出圈的ChatGPT發(fā)布時，公司內(nèi)部對此的期望值很低：「你問它一個事實性的問題時，它會給你一個錯誤的答案。我以為它會很平淡無奇，人們會說：你為什么要做這個?這太無聊了!」

將GPT模型封裝在一個易于使用的界面中并免費開放，讓數(shù)十億人第一次了解到 OpenAI 正在構(gòu)建的東西。在此之前， ChatGPT 背后的大型語言模型已經(jīng)存在了幾個月。

ChatGPT的成功，讓創(chuàng)始團隊受到了前所未有的關(guān)注。

2023年，OpenAI 的首席執(zhí)行官Sam Altman花了大半個夏天的時間，進行了長達數(shù)周的外聯(lián)之旅——與政客們交談，在世界各地座無虛席的禮堂發(fā)表演講。

作為首席科學(xué)家，Ilya Sutskever保持著低調(diào)的風(fēng)格，也不經(jīng)常接受采訪，不像公司的其他創(chuàng)始成員那般是個公眾人物，而是把更多的精力放在了GPT-4上。

今年早些時候，Hinton曾公開表示對自己幫助發(fā)明的技術(shù)感到恐懼：「我從沒見過更高智能水平的東西被遠遠更低智能水平的東西控制的案例?！?/p>

作為Hinton的學(xué)生，Ilya Sutskever沒有對這一言論發(fā)表評論，但他對超級智能負(fù)面影響的關(guān)注表明他們是同道中人。

隨著 GPT-4 以及后續(xù)一系列更強大的大語言模型的更新，以Ilya Sutskever為代表的一部分OpenAI 成員越來越擔(dān)憂 AI 的可控性問題。

于是就有了后面 Ilya Sutskever 突然與 Sam Altman 所代表的派系決裂、離職收場的故事。

Ilya Sutskever還分享了與Sam Altman、Greg Brockman和Mira Murati等人的合照

如今，Ilya成立了新的公司，也重新開始了自己對AI的理想與堅持。期待SSI能為人工智能的發(fā)展帶來新的驚喜。

參考鏈接：https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence