突發(fā)!OpenAI開除Ilya盟友,理由:涉嫌信息泄漏
突發(fā)!OpenAI開人了,理由:涉嫌信息泄露。
一位是失蹤的首席科學家Ilya盟友,超級對齊(Superalignment)團隊核心成員Leopold Aschenbrenner。
另一位也不簡單,是LLM推理團隊研究員Pavel Izmailov,曾經也在超級對齊團隊干過。
目前尚不清楚這倆人到底泄露了啥信息。
消息被曝出后,不少網友表示“挺震驚”:
不久前我還看過Aschenbrenner的帖子,感覺他正處于事業(yè)上升期,沒想到會有這樣的轉變。
圖片
還有網友認為:
OpenAI失去Aschenbrenner,Ilya Sutskever也被邊緣化,該公司對于構建安全AI的承諾看起來更加不可信了。
圖片
OpenAI人才流動,與谷歌Meta互挖墻腳已經見怪不怪,但開除形式的人事調動,還是去年11月董事會叛變之后的第一回。
倆人曾經都是Ilya的部下
據(jù)了解,Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作過,再往前追溯,19歲從哥倫比亞大學畢業(yè),還在牛津大學做過經濟增長方面的研究。
Pavel Izmailov這邊,他還是紐約大學CILVR小組成員,本人透露2025年秋將加入紐約大學Tandon CSE、Courant CS擔任助理教授。
目前,倆人的X主頁還都備注著與OpenAI的關系。
圖片
圖片
最近這個月倆人都沒有發(fā)新推文,不過置頂帖子倒是很亮眼。
沒錯,都是超級對齊團隊的第一篇論文,倆人都是這篇論文的作者。
這就不得不說到這個團隊,組團于去年7月份,是OpenAI為應對不同時間尺度上大模型可能會產生的安全問題,成立的三大安全團隊之一。
圖片
超級對齊團隊負責遙遠的未來,給超越人類的超級智能安全性奠定基礎,由Ilya Sutskever和Jan Leike領導。
雖然OpenAI看起來似乎在安全方面很重視,但其內部對AI的安全開發(fā)存在很大分歧已不是什么秘密。
這種分歧甚至被認為是去年11月OpenAI董事會內訌的最大原因:
圖片
網傳Ilya Sutskever成為“政變”帶頭人,就是因為看到了一些東西讓他內心不安。
而Ilya帶領的這個超級對齊團隊,很多成員也是站在Ilya這邊,在后來支持奧特曼的比心接龍活動中,這個超級對齊團隊成員也基本保持了沉默。
圖片
隨著OpenAI內訌事件的平息,奧特曼成為贏家,Ilya Sutskever離開董事會幾乎沒再公開露頭,超級對齊團隊現(xiàn)在是個什么情況咱也不知道。
再說回到這次兩位研究員被解雇。
兩人曾經都是Ilya部下,the information還表示Aschenbrenner是Ilya盟友、與優(yōu)先考慮解決AI危險性的運動有關聯(lián)。
所以,也有網友猜測這次裁員是奧特曼的“秋后算賬”。
和Q*泄密有關?
除此之外,網友比較關心還有泄密的內容究竟是什么。
目前猜測的焦點還是放在Q*,也就是董事會叛變大戲的導火索之一。
根據(jù)網友評論,Jimmy apples似乎發(fā)過相關推文,但沒過多久我們看到鏈接打開時已是推文被刪的大狀態(tài)……
圖片
從遺留的蛛絲馬跡來看,好像大概也許還是和Q*有關。
圖片
目前Q*從傳聞,已經變成被正式確認的存在,但關于它的一切,奧特曼本人目前都守口如瓶。
圖片
總之自從Q*之后,OpenAI內部開始出現(xiàn)理念分歧。
經歷一系列風波后,93%的員工簽署聯(lián)名信與奧特曼共存亡,調查結果公布后奧特曼無罪重返董事會。
看似風平浪靜,上下一心致力于實現(xiàn)AGI背后,裂痕仍舊存在。
參考鏈接:
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/