OpenAI“宮斗”番外！首席科學(xué)家Ilya官宣離職，參與驅(qū)逐奧特曼“宮斗”后沉寂5月首發(fā)聲！ 原創(chuàng)
編輯 | 伊風(fēng)
出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
谷歌I/O大會(huì)的主題演講剛剛結(jié)束四個(gè)小時(shí)。正當(dāng)人們把目光從GPT-4o中戀戀不舍地移開(kāi)，轉(zhuǎn)到Gemini上時(shí)。OpenAI又跑來(lái)“搞事”了！
自之前“宮斗”后就行蹤成謎的首席科學(xué)家Ilya Sutskever，在X上宣布自己將離職，投入到一個(gè)對(duì)自己有意義重大的新項(xiàng)目中，并可能在時(shí)機(jī)合適時(shí)透露相關(guān)細(xì)節(jié)！
緊接著，奧特曼也發(fā)文表達(dá)了對(duì)Ilya的感謝與不舍，并宣布將由Jakub Pachocki接棒擔(dān)任OpenAI的首席科學(xué)家。
圖片
“伊利亞和OpenAI即將分道揚(yáng)鑣。這對(duì)我來(lái)說(shuō)非常悲傷；伊利亞無(wú)疑是我們這一代最偉大的頭腦之一，是我們領(lǐng)域的指路明燈，也是一位親愛(ài)的朋友。他的才華和遠(yuǎn)見(jiàn)眾所周知；他的溫暖和同情心不那么廣為人知，但同樣重要。
沒(méi)有他，OpenAI就不會(huì)是今天的樣子。盡管他有自己個(gè)人意義重大的事情要去做，我將永遠(yuǎn)感激他在這里所做的一切，并致力于完成我們一起開(kāi)始的使命。我很高興能有如此長(zhǎng)時(shí)間接近這樣一位真正卓越的天才，以及一個(gè)如此專(zhuān)注于為人類(lèi)帶來(lái)最佳未來(lái)的人物。
雅庫(kù)布將成為我們的新首席科學(xué)家。雅庫(kù)布也無(wú)疑是我們這一代最偉大的頭腦之一；我很高興他在這里接過(guò)接力棒。他負(fù)責(zé)了許多我們最重要的項(xiàng)目，我非常相信他將帶領(lǐng)我們快速且安全地朝著確保通用人工智能(AGI)惠及每個(gè)人的使命前進(jìn)。”
伊利亞還曬出一張OpenAI leader們的合照。
圖片
在這張照片中，伊利亞本人站在中間。從左向右依次參與合照的是，新上任的首席科學(xué)家Jakub，聯(lián)合創(chuàng)始人Greg Brockman，OpenAI CEO Altman及OpenAI CTO Mira Murati。
此前，一直有傳言說(shuō)伊利亞的消失是因?yàn)樗白惨?jiàn)”了Q*?，F(xiàn)在伊利亞突然的現(xiàn)身讓人倍感意外。
翻一翻伊利亞的X賬戶(hù)，發(fā)現(xiàn)距離他上一次更新轉(zhuǎn)帖過(guò)去了足足5個(gè)月，更加戲劇性的是，這篇帖子的主題是“超級(jí)對(duì)齊”的資金將幫助人們更好監(jiān)督AI安全性的。
圖片
一、宮斗回顧：超級(jí)對(duì)齊與Q*傳聞
在伊利亞現(xiàn)身以后，網(wǎng)友評(píng)論道：很高興看到他還活著！
圖片
從奧特曼的角度來(lái)看，OpenAI的宮斗史正是由伊利亞的一封短信拉開(kāi)大幕的。
2023年11月16日周四（當(dāng)?shù)貢r(shí)間），奧特曼收到了要求周五中午進(jìn)行談話的消息。從后面發(fā)生的事情來(lái)看，這封短信正是董事會(huì)即將采取行動(dòng)的前兆。
緊接著11月17日的談話中，伊利亞告訴奧特曼他被解雇了。隨后，時(shí)任總裁的Greg Brockman也接到了短信和電話，被告知他本人已經(jīng)被董事會(huì)除名（但職位保留），同時(shí)奧特曼已經(jīng)被解雇。
經(jīng)過(guò)奧特曼等數(shù)位高管的辭職、談判失敗、出走微軟等反轉(zhuǎn)再反轉(zhuǎn)之后，奧特曼重回OpenAI，而伊利亞卻不知去向。
結(jié)合事后所浮出的內(nèi)幕細(xì)節(jié)，伊利亞很可能是最初推動(dòng)奧特曼被罷免的“牽頭者”。在奧特曼（Sam Altman）被罷免的前幾天，OpenAI的幾位研究人員曾向董事會(huì)發(fā)出了警告，他們表示發(fā)現(xiàn)了一種強(qiáng)大的人工智能技術(shù)，可能對(duì)人類(lèi)構(gòu)成威脅。
這個(gè)“很強(qiáng)大的人工智能技術(shù)”，也就是被廣為人知的“Q*”。
人們認(rèn)為正是因?yàn)橐晾麃喛吹搅诉@項(xiàng)恐怖的技術(shù)，從而促使他推動(dòng)董事會(huì)解雇奧特曼。而從這次宮斗以后“what did Ilya see”就變成了一個(gè)經(jīng)久不衰的AI梗。以至于在奧特曼官宣伊利亞離開(kāi)的推文下，仍有網(wǎng)友在追問(wèn)不休。
圖片
根據(jù)資料，Q*技術(shù)的名字暗示了它結(jié)合了兩種著名的人工智能技術(shù)：Q-Learning和A*搜索算法。
這意味著新模型能夠?qū)⒅С諧hatGPT的深度學(xué)習(xí)技術(shù)與人類(lèi)編程的規(guī)則相結(jié)合。Q*技術(shù)將推動(dòng)通用人工智能（AGI）的進(jìn)步，它絕對(duì)比我們目前所認(rèn)為的智能更接近了一步，并且有可能使模型能夠產(chǎn)生新的想法，這是ChatGPT所做不到的。
一些AI專(zhuān)家表示，如果Q*技術(shù)目前只相當(dāng)于一個(gè)小學(xué)生的水平，但其擁有的潛力可能使其未來(lái)能夠影響整個(gè)世界。
而伊利亞正是對(duì)這項(xiàng)技術(shù)持謹(jǐn)慎態(tài)度的人，此前他領(lǐng)導(dǎo)OpenAI 超級(jí)對(duì)齊團(tuán)隊(duì)，為OpenAI開(kāi)發(fā)安全、有益的人工智能（AGI）的方法負(fù)責(zé)。該團(tuán)隊(duì)的工作重點(diǎn)是確保先進(jìn)的人工智能系統(tǒng)與人類(lèi)的價(jià)值觀和利益保持一致，當(dāng)時(shí)已成為 OpenAI 的首要任務(wù)之一。
然而在OpenAI這項(xiàng)任務(wù)其實(shí)充滿(mǎn)了挑戰(zhàn)：確保人工智能與人類(lèi)價(jià)值觀保持一致與技術(shù)加速所帶來(lái)的盈利潛力是相沖突的。
在宮斗的尾聲，伊利亞曾表示他對(duì)參與董事會(huì)行動(dòng)的后悔。
圖片
就在幾個(gè)月前，奧特曼參與博客采訪時(shí)，被問(wèn)到過(guò)伊利亞的近況，他稱(chēng)贊伊利亞的長(zhǎng)處，說(shuō)他是能看到一項(xiàng)技術(shù)在未來(lái)十年中發(fā)展的人。
二、接棒首席科學(xué)家崗位的Jakub：對(duì)GPT-4有貢獻(xiàn)，曾追隨奧特曼辭職
新出任首席科學(xué)家的雅庫(kù)布（Jakub）是一個(gè)陌生的名字，就像伊利亞去年曾在推文中說(shuō)的那樣，他的才華和貢獻(xiàn)不那么為人所知。
圖片
伊利亞發(fā)布離開(kāi)推文后，雅庫(kù)布也進(jìn)行了轉(zhuǎn)發(fā)，稱(chēng)伊利亞為“導(dǎo)師和出色的合作伙伴”，并真誠(chéng)表達(dá)了對(duì)伊利亞的感謝與一同共事時(shí)光的懷念。
圖片
雅庫(kù)布是有實(shí)力接替伊利亞工作的人，自2017年加入OpenAI后，他“一直領(lǐng)導(dǎo)著變革性研究計(jì)劃”。OpenAI的官方通知中寫(xiě)到，“ 雅庫(kù)布曾擔(dān)任研究總監(jiān)，領(lǐng)導(dǎo) GPT-4 和 OpenAI Five 的開(kāi)發(fā)，以及大規(guī)模 RL 和深度學(xué)習(xí)優(yōu)化方面的基礎(chǔ)研究?！?/p>
在擔(dān)任首席科學(xué)家前，他在OpenAI擔(dān)任過(guò)一系列的重要職位：
- Dota 團(tuán)隊(duì)的研究帶頭人（2017年2月 - 2019年3月）
- 推理團(tuán)隊(duì)的研究帶頭人（2019年3月 - 2021年3月）
- 深度學(xué)習(xí)科學(xué)團(tuán)隊(duì)的研究帶頭人（2021年3月 - 2022年7月）
- 研究負(fù)責(zé)人（2021年11月 - 2023年10月）
- 研究主管（2023年10月 - 2024年5月）
在去年OpenAI宮斗風(fēng)波期間，雅庫(kù)布擔(dān)任著研究主管一職。
在奧特曼與Brockman相繼離開(kāi)OpenAI時(shí)，他與OpenAI其他的兩位高級(jí)研究人員Aleksander Madry、Szymon Sidor同時(shí)宣布辭職。
如今，他的上任，恐怕就是OpenAI宮斗最后的尾聲了。而伊利亞究竟看到了什么，仿佛一個(gè)永遠(yuǎn)沒(méi)有答案的開(kāi)放式問(wèn)題。
圖片
三、兩大關(guān)鍵人物離去，超級(jí)對(duì)齊團(tuán)隊(duì)名存實(shí)亡
Sutskever 離職后不久，他的同事、OpenAI "超對(duì)齊 "團(tuán)隊(duì)的聯(lián)合負(fù)責(zé)人 Jan Leike 也跟隨他在同一天宣布離職。
圖片
OpenAI的AI研究團(tuán)隊(duì)正在經(jīng)歷新一波的動(dòng)蕩，許多人對(duì)OpenAI是否能引導(dǎo)安全、有益的AGI感到失望。此前，OpenAI 選擇將其 20% 的計(jì)算專(zhuān)用于超級(jí)對(duì)齊，以控制未來(lái)超人類(lèi)智能可能存在的潛在風(fēng)險(xiǎn)。
也有離開(kāi)OpenAI離開(kāi)的員工在X上表達(dá)對(duì)奧特曼的不滿(mǎn)。（“限制線性代數(shù)”暗示奧特曼參與公共討論和政策倡導(dǎo)活動(dòng)，以推動(dòng)對(duì)人工智能領(lǐng)域技術(shù)使用的監(jiān)管或限制。）
圖片
現(xiàn)在，超級(jí)對(duì)齊團(tuán)隊(duì)的兩位共同領(lǐng)導(dǎo)者都已離職，問(wèn)題就在于這項(xiàng)事業(yè)是否會(huì)繼續(xù)下去，以及以何種身份繼續(xù)下去。在AI算力見(jiàn)頂?shù)臅r(shí)刻，20%的計(jì)算是否會(huì)被挪用到更加“實(shí)際”的領(lǐng)域中，例如AI訓(xùn)練。
有些人認(rèn)為，伊利亞是一個(gè)所謂的 "道學(xué)家"，或者說(shuō)他關(guān)注的是人工智能給人類(lèi)帶來(lái)生存風(fēng)險(xiǎn)的能力（也被稱(chēng)為 "X 風(fēng)險(xiǎn)"）。
然而，分析專(zhuān)家說(shuō)，Altman 和 OpenAI 的其他人并不像伊利亞那樣關(guān)注 x 風(fēng)險(xiǎn)。
所以，也許對(duì)人類(lèi)命運(yùn)關(guān)注較少的那一派勝出了。
至此，OpenAI的聯(lián)合創(chuàng)始人馬斯克、GPT-3.5-4.0核心人物伊利亞、以及開(kāi)源巨頭 Karpathy 都相繼離開(kāi)了這家公司。
GPT的發(fā)明之所以能夠?qū)崿F(xiàn)，是因?yàn)楣雀鑼ransformers的學(xué)術(shù)成果貢獻(xiàn)出來(lái)，才能讓更多的人站到了巨人的肩膀上。而OpenAl，作為得利的創(chuàng)新者，正試圖改變游戲的規(guī)則，將新的成果據(jù)為己有。
盡管伊利亞與OpenAI的故事結(jié)束了，但這位“AI Uncle”自己的故事正剛剛要開(kāi)始。
也許，在不久的將來(lái)，這個(gè)意義重大的個(gè)人項(xiàng)目，能讓這位沉寂了5個(gè)月的AI天才重返大眾視野，讓他懷揣著AGI信仰，繼續(xù)發(fā)熱發(fā)光。
?本文轉(zhuǎn)載自51CTO技術(shù)棧，作者：伊風(fēng)
