離職近5個月，OpenAI前CTO Mira Murati終于官宣了！

新公司名叫「思考機器實驗室」（Thinking Machines Lab），將人類價值觀編碼到AI模型中，讓其更安全、更可靠。

Mira任CEO，OpenAI前后訓(xùn)練研究副總Barret Zoph任CTO，OpenAI聯(lián)創(chuàng)John Schulman任首席科學(xué)家。

圖片

思考機器實驗室現(xiàn)共有29名員工，其中2/3均來自O(shè)penAI，集結(jié)了最豪華的陣容。

其中，有我們熟知的，OpenAI前安全副總裁、北大校友翁荔（Lilian Weng）、前OpenAI多模態(tài)后訓(xùn)練負責(zé)人Alexander Kirillov等等。

圖片

Karpathy對前CTO成立的新公司表示了祝賀，并稱贊道「非常強大的團隊，其中大部分成員直接參與并創(chuàng)造了ChatGPT這個奇跡」。

圖片

對此，賈揚清表示，「這是我看到豪華的陣容」。

圖片

OpenAI前員工，又多一家新去處

Thinking Machines Lab如何保證，自己的方法有別于競爭對手？

重點就在于，研究是由研究團隊和產(chǎn)品團隊共同設(shè)計。該公司表示，將通過共享代碼、數(shù)據(jù)集和模型規(guī)范為AI對齊研究做出貢獻。

「雖然當(dāng)前的系統(tǒng)在編程和數(shù)學(xué)方面表現(xiàn)出色，但我們正在構(gòu)建能夠適應(yīng)人類全部專業(yè)知識并實現(xiàn)更廣泛應(yīng)用的人工智能?！?/span>

也就是說，Murati創(chuàng)業(yè)公司的重點，就是將人類價值觀編碼到AI模型中，使其更安全、更可靠。

圖片

截至一月份，Murati已經(jīng)從競爭對手那里為她的公司招募了大約10名員工，其中包括來自Character AI和Google DeepMind以及她的老東家OpenAI的人員。

消息人士稱，還會有更多OpenAI員工加入Murati的公司。此前，該公司一直在從投資者那里籌措風(fēng)投資金。

與Thinking Machines Lab類似， Anthropic和Safe Superintelligence也都吸引了大批前 OpenAI研究人員，并籌集了數(shù)十億美元的資金。

Murati在OpenAI工作了六年半，擔(dān)任CTO，參與了ChatGPT和其他AI研究項目的開發(fā)。

2023年11月，在OpenAI董事會突然解雇奧特曼之后，她曾短暫擔(dān)任臨時CEO，這一舉動在公司內(nèi)部引發(fā)了動蕩。在奧特曼重新?lián)蜟EO后，Murati繼續(xù)擔(dān)任CTO職務(wù)。

Murati是少數(shù)幾位離開OpenAI后創(chuàng)辦自己公司的前OpenAI高管之一。

前OpenAI首席科學(xué)家兼聯(lián)合創(chuàng)始人Ilya Sutskever于2024年5月離開公司，并在離職后不久創(chuàng)辦了Safe Superintelligence Inc.。

Dario和Daniela Amodei也曾在OpenAI工作，于2021年共同創(chuàng)辦了 Anthropic。

「思考機器」實驗室

Thinking Machines Lab是一個AI研究和產(chǎn)品公司。目標(biāo)是讓每個人都能獲得知識和工具，使AI能夠滿足他們獨特的需要和目標(biāo)。

團隊認為盡管AI的能力有了顯著的進步，但在關(guān)鍵領(lǐng)域仍存在差距?？茖W(xué)界對前沿AI系統(tǒng)的理解落后于其快速發(fā)展的能力。

關(guān)于這些系統(tǒng)是如何訓(xùn)練的知識主要集中在頂級研究實驗室中，這既限制了公眾對AI的討論，也限制了人們有效使用AI的能力。盡管這些系統(tǒng)具有巨大的潛力，但人們?nèi)匀浑y以將它們定制以滿足自己的特定需求和價值觀。

Thinking Machines Lab的建立正是為了彌合這些差距，以使AI系統(tǒng)更廣泛地被理解、定制和普遍具備能力。

Thinking Machines Lab的團隊包括科學(xué)家、工程師，以及諸如ChatGPT和Character.ai等最廣泛使用的AI產(chǎn)品創(chuàng)建者，還包括Mistral等開源模型，以及PyTorch、OpenAI Gym、Fairseq和Segment Anything等流行的開源項目的開發(fā)者。

共享讓科學(xué)更美好

· 科學(xué)進步是集體努力的成果

通過與更廣泛的研究者和創(chuàng)造者社區(qū)合作，將更有效地推進人類對AI的理解。團隊計劃經(jīng)常發(fā)布技術(shù)博客文章、論文和代碼，來分享他們的工作。這樣不僅能造福公眾，還能改善自己的研究文化。

為每個人服務(wù)的AI

· 人機協(xié)作至關(guān)重要

團隊不僅僅專注于打造完全自主的AI系統(tǒng)，更致力于構(gòu)建能與人協(xié)作的多模態(tài)系統(tǒng)。

· 更靈活、適應(yīng)性更強、更個性化的AI系統(tǒng)

在各個領(lǐng)域，AI都有著為人類提供幫助的巨大潛力。雖然當(dāng)前系統(tǒng)在編程和數(shù)學(xué)方面表現(xiàn)出色，但團隊正在構(gòu)建的，是能適應(yīng)人類各種專業(yè)領(lǐng)域并支持更廣泛應(yīng)用的AI。

夯實基礎(chǔ)

· 模型智能是基石

除了人機協(xié)作和定制化外，模型的智能也是關(guān)鍵。為此，團隊將會構(gòu)建在科學(xué)和編程等領(lǐng)域處于前沿水平的模型。最終，最先進的模型將釋放最具變革性的應(yīng)用和效益，如實現(xiàn)新的科學(xué)發(fā)現(xiàn)和工程突破。

· 將基礎(chǔ)設(shè)施質(zhì)量作為首要任務(wù)

研究生產(chǎn)力至關(guān)重要，它在很大程度上取決于基礎(chǔ)設(shè)施的可靠性、效率和易用性。團隊的目標(biāo)是正確構(gòu)建長期可用的系統(tǒng)，以最大化生產(chǎn)力和安全性，而不是采取捷徑。

· 先進的多模態(tài)能力

團隊認為，多模態(tài)對實現(xiàn)更自然高效的交流、保留更多信息、更好地捕捉意圖以及支持與現(xiàn)實環(huán)境更深入的整合至關(guān)重要。

實踐出真知

· 研究和產(chǎn)品協(xié)同設(shè)計

產(chǎn)品能通過部署實現(xiàn)迭代學(xué)習(xí)，而優(yōu)秀的產(chǎn)品和研究又能相互促進。產(chǎn)品讓團隊能夠腳踏實地，去解決最有影響力的問題。

· 實證和迭代的AI安全方法

最有效的安全措施來自主動研究和謹慎的實際測試的結(jié)合。團隊計劃通過以下方式為AI安全做出貢獻：

1. 保持高安全標(biāo)準(zhǔn)——防止我們發(fā)布的模型被濫用，同時最大化用戶的自由度；
2. 與業(yè)界分享構(gòu)建安全AI系統(tǒng)的最佳實踐和方法；
3. 通過分享代碼、數(shù)據(jù)集和模型規(guī)范來加速外部對對齊問題的研究。

團隊相信，為當(dāng)前系統(tǒng)開發(fā)的方法，如有效的紅隊測試和部署后監(jiān)控，將為未來更強大的系統(tǒng)提供寶貴的見解。

· 衡量真正重要的事物

團隊將專注于理解系統(tǒng)如何在現(xiàn)實世界中創(chuàng)造真正的價值。最重要的突破往往來自重新思考自己的目標(biāo)，而不僅僅是優(yōu)化現(xiàn)有指標(biāo)。

20名OpenAI員工加盟

坊間早有傳聞，Mira Murati初創(chuàng)公司將會把大部分OpenAI員工收入麾下，如今約2/3的人均加入。

接下來，讓我們一起盤點下都有哪些OpenAI大佬。

Mira Murati（前OpenAI CTO）

圖片

Mira Murati于2018年加入OpenAI，并在2022年晉升為首席技術(shù)官。她在開發(fā)開創(chuàng)性AI模型方面，發(fā)揮了關(guān)鍵作用。其中就包括GPT-3，以及ChatGPT、DALL·E等。

Barret Zoph（前OpenAI后訓(xùn)練團隊研究副總）

圖片

Barret Zoph主要致力于對齊、工具使用、評估、ChatGPT、搜索、多模態(tài)等等。他曾于2022年加入OpenAI，任職兩年。此前，曾在谷歌擔(dān)任6年研究科學(xué)家。

John Schulman（OpenAI聯(lián)合創(chuàng)始人）

圖片

Schulman在研究生學(xué)業(yè)完成后，以創(chuàng)始人身份正式加入OpenAI，并在OpenAI供職9年。值得一提的是，這是Schulman除實習(xí)之外，唯一工作的公司。他曾負責(zé)領(lǐng)導(dǎo)了對齊團隊，以及「后訓(xùn)練」團隊——對部署在ChatGPT和OpenAI API中的模型進行微調(diào)。

Lilian Weng（前OpenAI安全研究副總裁）

圖片

Lilian Weng曾是OpenAI安全系統(tǒng)負責(zé)人，主要從事機器學(xué)習(xí)、深度學(xué)習(xí)等研究 。Weng本科畢業(yè)于北京大學(xué)信息系統(tǒng)與計算機科學(xué)專業(yè)，曾前往香港大學(xué)進行短期交流，之后在印第安納大學(xué)布魯明頓（Indiana University Bloomington）分校獲得博士學(xué)位。

Alexander Kirillov（前OpenAI多模態(tài)后訓(xùn)練負責(zé)人）

圖片

在OpenAI，Alexander Kirillov帶領(lǐng)團隊致力于多模態(tài)模型的研發(fā)工作，推動模型不僅能夠處理文本，還能同時理解和生成圖像、音頻等多種數(shù)據(jù)。此前，他在Meta參與并主導(dǎo)爆火的「Segment Anything」項目。

Mario Saltarelli （前OpenAI IT和安全部門負責(zé)人）

圖片

Mario Saltarelli 2019年加盟OpenAI，任職IT主管5年多。

Andrew Tulloch  

圖片

ML系統(tǒng)研究和工程，前在OpenAI和Meta任職。

Brydon Eastman

圖片

曾在OpenAI從事后訓(xùn)練研究，專門研究人類和合成數(shù)據(jù)，模型對齊和RL。

Christian Gibson  

圖片

曾任OpenAI基礎(chǔ)設(shè)施工程師，專注于訓(xùn)練前沿模型所使用的超級計算機。

Ian O'Connell  

圖片

基礎(chǔ)設(shè)施工程師，曾就職于OpenAI、Netflix和Stripe。

Jacob Menick

圖片

機器學(xué)習(xí)研究員，曾在OpenAI主導(dǎo)GPT-4o-mini項目，此前在DeepMind參與開發(fā)ChatGPT和深度生成模型。

Jonathan Lachman  

圖片

運營主管，曾任OpenAI特別項目負責(zé)人和白宮國家安全預(yù)算主管。

Joshua Gross  

圖片

在OpenAI負責(zé)產(chǎn)品和研究基礎(chǔ)設(shè)施建設(shè)，參與打造ChatGPT的學(xué)習(xí)系統(tǒng)和GPU集群；此前在Meta負責(zé)產(chǎn)品基礎(chǔ)設(shè)施。

Kyle Luther

圖片

機器學(xué)習(xí)研究員，曾就職于OpenAI。

Luke Metz

圖片

研究科學(xué)家和工程師，曾就職于OpenAI和Google Brain，ChatGPT共同創(chuàng)建者。

Nikki Sommer  

圖片

前OpenAI人力資源業(yè)務(wù)合作副總裁，曾任Twitter人力資源業(yè)務(wù)合作總監(jiān)。

Rowan Zellers  

圖片

曾在OpenAI從事實時多模態(tài)后訓(xùn)練工作。

Sam Schoenholz  

圖片

曾在OpenAI領(lǐng)導(dǎo)可靠擴展團隊和GPT-4o優(yōu)化工作。此前在Google Brain從事統(tǒng)計物理學(xué)與機器學(xué)習(xí)交叉領(lǐng)域的研究。

Yinghai Lu  

圖片

機器學(xué)習(xí)系統(tǒng)工程師，曾在OpenAI和Meta主導(dǎo)多個推理系統(tǒng)項目。

Pia Santos  

運營高管，曾就職于OpenAI。

Randall Lin  

曾在OpenAI管理和維護ChatGPT的，并在X擔(dān)任「推特算法」的技術(shù)聯(lián)合負責(zé)人。

除此以外，還有多位來自谷歌DeepMind、Mistral AI、Meta、Character AI等科技公司的大佬紛紛加盟。

參考資料：

https://thinkingmachines.ai/