編輯 | 言征

出品 | 51CTO技術(shù)棧（微信號：blog51cto）

OpenAI宣布成立新的安全與保密委員會，該委員會負(fù)責(zé)OpenAI項目和運營中的關(guān)鍵決策制定，這引發(fā)了互聯(lián)網(wǎng)的廣泛討論，因為CEO山姆·阿爾特曼（Sam Altman）也是委員會成員之一。

討論圍繞著GPT-5可能提前發(fā)布的問題展開，以及該委員會是OpenAI的安全堡壘。然而，這一公告最有趣的部分似乎是委員會的成員。

除了由OpenAI董事會董事領(lǐng)導(dǎo)外，該小組還將有技術(shù)和政策專家為他們提供指導(dǎo)。在阿爾特曼的領(lǐng)導(dǎo)下，這是OpenAI新安全與保密委員會的領(lǐng)軍團(tuán)隊。

Bret Taylor

圖片

在阿爾特曼短暫被解職后重新?lián)蜟EO后，美國企業(yè)家和計算機(jī)程序員布雷特·泰勒（Bret Taylor）加入了董事會。泰勒曾是Salesforce的聯(lián)合首席執(zhí)行官，他在Twitter和Shopify等科技公司的董事會也有豐富的經(jīng)驗。他還是Google Maps的聯(lián)合創(chuàng)始人。

泰勒一直是阿爾特曼的密友，在去年阿爾特曼被解職的事件中一直支持他。最近，泰勒和拉里·薩默斯（另一位董事會成員）對海倫·托納（Helen Toner，阿爾特曼重新?lián)蜟EO后被解職的前董事會成員）的指控做出了強烈反應(yīng)，她指控阿爾特曼多次向董事會撒謊并隱瞞信息，這是她提出他被解職的部分原因。

泰勒和薩默斯駁斥了托納的指控，并對她討論這些問題感到失望。

Adam D’Angelo

圖片

Quora的聯(lián)合創(chuàng)始人兼首席執(zhí)行官亞當(dāng)·德安杰洛（Adam D'Angelo），同時也是Facebook的前首席技術(shù)官，于2018年加入董事會擔(dān)任獨立董事。他是唯一一位在阿爾特曼被解職并重新?lián)蜟EO后職位未受影響的董事會成員。

德安杰洛還是Poe的創(chuàng)始人，Poe是一個多聊天機(jī)器人互動平臺，允許用戶與市場上所有可用的LLM（大型語言模型）進(jìn)行交互。

Jakub Pachocki

圖片

OpenAI的新首席科學(xué)家雅庫布·帕喬基（Jakub Pachocki）在伊利亞·蘇茨克維（Ilya Sutskever）離職后接任了他的職位。帕喬基領(lǐng)導(dǎo)著OpenAI的研究工作，是新安全委員會的技術(shù)專家之一。在蘇茨克維在X上發(fā)布的離職聲明中，帕喬基被稱為擁有“優(yōu)秀的研究領(lǐng)導(dǎo)力”。

帕喬基出生于波蘭，在學(xué)習(xí)期間在編程競賽中表現(xiàn)出色，甚至在2012年的谷歌編程競賽（Google Code Jam）中贏得了10,000美元。2013年，他在華沙大學(xué)學(xué)習(xí)計算機(jī)科學(xué)，并在同一專業(yè)獲得了卡內(nèi)基梅隆大學(xué)的博士學(xué)位。

有趣的是，帕喬基在去年10月?lián)瘟搜芯恐魅蔚穆殑?wù)，就在阿爾特曼被解雇前的一個月。

Ilya引領(lǐng)我進(jìn)入深度學(xué)習(xí)研究的世界，多年來一直是我的導(dǎo)師和優(yōu)秀的合作伙伴。他對深度學(xué)習(xí)可能發(fā)展成的樣子的驚人愿景是OpenAI和AI領(lǐng)域今天的基礎(chǔ)。我深深地感謝他……

——雅庫布·帕喬基（@merettm）2024年5月14日

John Schulman

圖片

OpenAI的聯(lián)合創(chuàng)始人兼安全主管約翰·舒爾曼（John Schulman）是一位杰出的研究員。在OpenAI，他專注于創(chuàng)建和改進(jìn)算法，使機(jī)器能夠從與環(huán)境的交互中學(xué)習(xí)。

舒爾曼在加州理工學(xué)院攻讀物理學(xué)本科，后來轉(zhuǎn)到加州大學(xué)伯克利分校學(xué)習(xí)神經(jīng)科學(xué)，并最終獲得了電子工程和計算機(jī)科學(xué)博士學(xué)位。他的學(xué)術(shù)工作為他未來在強化學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域的研究奠定了基礎(chǔ)。

在最近與Dwarkesh Patel的播客節(jié)目中，舒爾曼談到了他對AGI（通用人工智能）安全性的預(yù)期。他說：“如果AGI比預(yù)期更早出現(xiàn)，我們肯定會非常小心。我們可能會稍微放慢訓(xùn)練和部署的進(jìn)度，直到我們確信能夠安全地處理它。”

Matthew Knight

圖片

OpenAI的安全主管馬修·奈特（Matthew Knight）于2020年加入該公司。奈特在硬件、軟件和無線安全方面擁有強大的背景，他領(lǐng)導(dǎo)著確保OpenAI的人工智能模型和系統(tǒng)的安全和可靠性的工作。這還包括確保AI模型能夠抵御敵對攻擊。

在加入OpenAI之前，奈特與他人共同創(chuàng)立了Agitator，這是一家開發(fā)安全且具有彈性的動態(tài)無線電頻譜管理技術(shù)的初創(chuàng)公司。

Lilian Weng 

圖片

OpenAI的安全系統(tǒng)主管莉莉安·翁（Lilian Weng）于2018年加入OpenAI擔(dān)任研究科學(xué)家。在OpenAI，翁的工作主要集中在開發(fā)算法上，這些算法使機(jī)器能夠?qū)W習(xí)、適應(yīng)和自主執(zhí)行復(fù)雜任務(wù)。

翁為高級強化學(xué)習(xí)技術(shù)的發(fā)展做出了貢獻(xiàn)，這些技術(shù)用于訓(xùn)練AI代理通過與環(huán)境的交互和從其行為結(jié)果中學(xué)習(xí)來做出決策。

她獲得了麻省理工學(xué)院的電氣工程和計算機(jī)科學(xué)博士學(xué)位。

Aleksander Madry

圖片

OpenAI的應(yīng)急準(zhǔn)備主管亞歷山大·馬德里（Aleksander Madry）是麻省理工學(xué)院電氣工程與計算機(jī)科學(xué)系的教授。他在麻省理工學(xué)院獲得了計算機(jī)科學(xué)博士學(xué)位，并自此成為AI研究領(lǐng)域的領(lǐng)軍人物，特別專注于機(jī)器學(xué)習(xí)、優(yōu)化和算法魯棒性。

Nicole Seligman

圖片

OpenAI董事會成員妮科爾·塞利格曼（Nicole Seligman）是一位企業(yè)和公民領(lǐng)袖以及律師。作為索尼公司的前執(zhí)行副總裁和總法律顧問，塞利格曼目前擔(dān)任三家上市公司的董事會成員，分別是派拉蒙全球公司（Paramount Global）、MeiraGTx Holdings PLC和Intuitive Machines Inc。塞利格曼在法律和公司治理領(lǐng)域做出了重大貢獻(xiàn)。

本文轉(zhuǎn)載自??51CTO技術(shù)棧??，作者：言征