OpenAI 的「真還傳」劇情昨天迎來(lái)了大結(jié)局。但今天，事件主角 Sam Altman 又上了熱搜。

路透社報(bào)道稱(chēng)，在 Sam Altman 被董事會(huì)開(kāi)除四天之前，幾名研究人員向董事會(huì)發(fā)送了一封信，警告他們 OpenAI 已經(jīng)有了一項(xiàng)重大的人工智能發(fā)現(xiàn)，而這項(xiàng)發(fā)現(xiàn)可能會(huì)威脅到人類(lèi)。知情人士稱(chēng)，這封以前未報(bào)道的信件和人工智能算法是董事會(huì)罷免 Altman 的一個(gè)關(guān)鍵線索，也是董事會(huì)對(duì) Altman 的諸多不滿(mǎn)之一。

路透社提到，OpenAI 在發(fā)給員工的內(nèi)部信息中承認(rèn)了一個(gè)名為 Q * 的項(xiàng)目，并在 Altman 被開(kāi)除之前致信董事會(huì)。OpenAI 的一位發(fā)言人表示，上述內(nèi)部信息是由長(zhǎng)期擔(dān)任高管的 Mira Murati（OpenAI 前 CTO，在混亂之初曾被任命為臨時(shí) CEO）發(fā)布的，目的是提醒員工注意某些媒體報(bào)道，但不評(píng)論其準(zhǔn)確性。

 Q * 的發(fā)音為 Q-Star，一些內(nèi)部人士認(rèn)為，這可能是 OpenAI 在追尋超級(jí)智能 / 通用人工智能（AGI）道路上取得的一項(xiàng)突破。也就是說(shuō)，他們可能已經(jīng)創(chuàng)造出了比人類(lèi)更智能的 AI 系統(tǒng)或與其有關(guān)的突破。

據(jù)悉，Q-Star 能夠解決以前從未見(jiàn)過(guò)的數(shù)學(xué)問(wèn)題，而數(shù)學(xué)是生成式人工智能發(fā)展的前沿。目前，生成式人工智能擅長(zhǎng)通過(guò)統(tǒng)計(jì)預(yù)測(cè)下一個(gè)單詞來(lái)進(jìn)行寫(xiě)作和語(yǔ)言翻譯，而且對(duì)同一個(gè)問(wèn)題的回答也可能千差萬(wàn)別。但是，如果掌握了數(shù)學(xué)能力（只有一個(gè)正確答案），就意味著人工智能將擁有更強(qiáng)的推理能力，與人類(lèi)智能相媲美。人工智能研究人員認(rèn)為，這可以應(yīng)用于新穎的科學(xué)研究等方面。著名數(shù)學(xué)家陶哲軒就經(jīng)常曬出自己在 ChatGPT 的輔助下進(jìn)行數(shù)學(xué)研究的例子。

最近幾周，該模型的演示在 OpenAI 內(nèi)部流傳，其發(fā)展速度讓一些關(guān)注人工智能安全的研究人員感到震驚。

消息人士稱(chēng)，研究人員在給董事會(huì)的信中指出了人工智能的能力和潛在危險(xiǎn)，但沒(méi)有說(shuō)明信中提到的具體安全問(wèn)題。

長(zhǎng)期以來(lái)，計(jì)算機(jī)科學(xué)家們一直在討論超級(jí)智能機(jī)器帶來(lái)的危險(xiǎn)，比如它們是否會(huì)認(rèn)為毀滅人類(lèi)符合它們的利益。

在這種擔(dān)憂(yōu)不斷蔓延之際，Altman 卻在加速推進(jìn) GPT 系列模型的開(kāi)發(fā)及其商業(yè)化，以早日實(shí)現(xiàn)通用人工智能。

除了在本月的 OpenAI 開(kāi)發(fā)者大會(huì)中宣布了一系列新工具外，Altman 在上周的亞太經(jīng)合組織工商領(lǐng)導(dǎo)人峰會(huì)上還開(kāi)玩笑說(shuō)，他相信 AGI 就在眼前。他還表示，在 OpenAI 的工作經(jīng)歷中，他有幸目睹了知識(shí)邊界四次被推進(jìn)，其中最近一次發(fā)生在幾周前。

在發(fā)表這番言論的第二天，Altman 就被董事會(huì)解雇了。

據(jù) The Information 報(bào)道，神秘模型 Q-Star 是由 OpenAI 的兩位頂級(jí)研究人員 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科學(xué)家 Ilya Sutskever 的研究成果構(gòu)建的。在 Altman 被開(kāi)除后，二人也成了首批辭職的高級(jí)員工之一。

The Information 還寫(xiě)道，在取得突破后的幾個(gè)月里，Sutskever 似乎對(duì)這項(xiàng)技術(shù)持保留態(tài)度。今年 7 月，他組建了一個(gè)「超級(jí)對(duì)齊」團(tuán)隊(duì)，致力于讓強(qiáng)大的 AI 系統(tǒng)遵循人類(lèi)的意愿，而不是傷害人類(lèi)。該團(tuán)隊(duì)在其網(wǎng)頁(yè)上說(shuō)：「雖然超級(jí)智能現(xiàn)在似乎還很遙遠(yuǎn)，但我們相信它可能會(huì)在十年內(nèi)到來(lái)?！?/p>

Ilya 取得的突破以及他對(duì) AI 安全的擔(dān)憂(yōu)，有助于解釋他為什么參與罷免 Altman 的行動(dòng)，以及 Sidor 和 Pachocki 為什么在 Altman 被解雇后迅速辭職。不過(guò)，在 Altman 重回 OpenAI 后，兩人也回到了公司。

除了 Pachocki 和 Sidor，OpenAI 前董事長(zhǎng)兼聯(lián)合創(chuàng)始人 Greg Brockman 也一直致力于將該技術(shù)集成到新產(chǎn)品中。上周，他和 Altman 一起離開(kāi)，如今又一起回歸。

據(jù)知情人士透露，Ilya 的突破還幫 OpenAI 克服了獲得足夠高質(zhì)量數(shù)據(jù)來(lái)訓(xùn)練新模型的限制，這是開(kāi)發(fā)下一代模型的主要障礙。該研究涉及使用計(jì)算機(jī)生成的數(shù)據(jù)，而不是現(xiàn)實(shí)世界的數(shù)據(jù)（如從互聯(lián)網(wǎng)中提取的文本或圖像）來(lái)訓(xùn)練新模型。

有跡象表明，Sutskever 越來(lái)越擔(dān)心人工智能的風(fēng)險(xiǎn)。在一篇博客文章中，OpenAI 表示，它將把五分之一的計(jì)算資源用于解決來(lái)自「超級(jí)智能」的威脅，Sutskever 和 Leike 寫(xiě)道，這「可能導(dǎo)致人類(lèi)被剝奪權(quán)力，甚至人類(lèi)滅絕」。

在經(jīng)過(guò)幾天的混亂之后，OpenAI 正在經(jīng)歷一輪新的洗牌，還有很多問(wèn)題懸而未決。很多人調(diào)侃說(shuō)，這意味著這場(chǎng)大戲還有第二季。

Adam 成原董事會(huì)「遺珠」，首席科學(xué)家 Ilya 發(fā)聲

隨著 Sam Altman 重返 OpenAI CEO 職位，原董事會(huì)也迎來(lái)了重組。

現(xiàn)在，OpenAI 組成了包括前 Salesforce 聯(lián)席首席執(zhí)行官 Bret Taylor（董事會(huì)主席）、前美國(guó)財(cái)政部長(zhǎng) Larry Summers 和 Quora 聯(lián)合創(chuàng)始人 Adam D'Angelo 在內(nèi)的三人初始董事會(huì)。

我們知道，OpenAI 原董事會(huì)成員有 6 人，包括 3 名 OpenAI 高管（原董事長(zhǎng)兼總裁 Greg Brockman、CEO Sam Altman 和首席科學(xué)家 Ilya Sutskever）和 3 名非員工董事（Adam D'Angelo、Tasha McCauley 和 Helen Toner）。此后就是大家熟知的 Greg 和 Altman 被踢出董事會(huì)。

而全新初始董事會(huì)的「出爐」意味著 OpenAI 原董事會(huì)成員 Ilya Sutskever、Helen Toner、Tasha McCauley 都暫時(shí)「出局」了。至此原 6 人董事會(huì)成員只有 Adam 留了下來(lái)。這就讓人對(duì) Adam 非常好奇，畢竟他此前被認(rèn)為是開(kāi)除 Sam Altman 的幕后推手（他的 AI 項(xiàng)目 Poe 被認(rèn)為與 Altman 發(fā)布的 GPTs 等產(chǎn)品存在競(jìng)爭(zhēng)關(guān)系）。

Adam 年少成名，他是問(wèn)答網(wǎng)站 Quora 的聯(lián)合創(chuàng)始人之一，與 Facebook 創(chuàng)始人扎克伯格為預(yù)備學(xué)校同學(xué)，并曾擔(dān)任 Facebook 首位 CTO。Adam 被認(rèn)為是一位致力于在網(wǎng)絡(luò)上傳播更好信息的杰出工程師，為人很低調(diào)。

Adam 擔(dān)任 OpenAI 董事會(huì)成員已經(jīng) 5 年了，過(guò)去幾天他在網(wǎng)上遭到了業(yè)內(nèi)同行的批評(píng)，甚至馬斯克也要求他解釋為什么驅(qū)逐 Altman。而根據(jù) Quora 前員工的一些說(shuō)法，Adam 有時(shí)會(huì)突然解雇高管，而不考慮對(duì)員工的影響。

不過(guò)，對(duì)于 OpenAI 內(nèi)部存在的激進(jìn)與安全路線之間的平衡，Adam 似乎持有樂(lè)觀的態(tài)度。身邊人形容他很務(wù)實(shí)，對(duì) AI 的商業(yè)化并不過(guò)分謹(jǐn)慎?？梢哉f(shuō) Adam 并沒(méi)有試圖減緩 AI 的進(jìn)步，過(guò)去一年他一直將精力投入到自己的 AI 項(xiàng)目 Poe 中，這是孵化自 Quora 的一個(gè) AI 聊天機(jī)器人平臺(tái)。

此外，Altman 也一直欣賞 Adam，在 2018 年將他引入 OpenAI 董事會(huì)。Altman 曾稱(chēng) Adam 是人們?cè)谟懻撟盥斆?CEO 時(shí)不斷提及的少數(shù)幾個(gè)名字之一，有時(shí)甚至?xí)谏钜古c他通電話解決問(wèn)題。

另一位前董事會(huì)成員、OpenAI 首席科學(xué)家 Ilya Sutskever 的去留也備受關(guān)注。他參與了解雇 Altman 的行動(dòng)，但隨后又后悔了。Sam Altman 轉(zhuǎn)發(fā)了 lya 表示后悔的帖子并加上了「愛(ài)心」的表情，看起來(lái)是和解的信號(hào)。其實(shí)，Ilya 在 OpenAI 的技術(shù)影響力也足以促使 Altman 讓事情翻篇。

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，這一轉(zhuǎn)變是 Greg Brockman 的妻子促成的，而 Ilya 是二人婚禮的主婚人。

多年來(lái)，Ilya 一直在研究如何讓 GPT-4 等語(yǔ)言模型解決涉及推理的任務(wù)，例如數(shù)學(xué)或科學(xué)問(wèn)題。2021 年，他啟動(dòng)了一個(gè)名為 GPT-Zero 的項(xiàng)目，這是對(duì) DeepMind 的 AlphaZero 的致敬，該程序可以下國(guó)際象棋、圍棋和將棋。該團(tuán)隊(duì)假設(shè)，給語(yǔ)言模型更多的時(shí)間和計(jì)算能力來(lái)生成對(duì)問(wèn)題的回答，可能會(huì)讓它們?cè)趯W(xué)術(shù)上取得新的突破。

知情人士透露，Transformer 論文（Attention is All You Need）作者之一 Lukasz Kaiser 在 GPT-Zero 項(xiàng)目中發(fā)揮了關(guān)鍵作用。這位人士說(shuō)，該團(tuán)隊(duì)試驗(yàn)的技術(shù)包括一種被稱(chēng)為「測(cè)試時(shí)計(jì)算（test-time computation）」的機(jī)器學(xué)習(xí)概念，旨在提高語(yǔ)言模型解決問(wèn)題的能力。今年早些時(shí)候，Ilya 和他的團(tuán)隊(duì)發(fā)現(xiàn)了這種方法的一種變體，這促使他們?cè)谟?xùn)練更復(fù)雜的模型方面取得了更大的成果?？磥?lái)，核心技術(shù)還是掌握在 Ilya 手里。

在 OpenAI 宣布 Altman 將回歸后，Ilya 在個(gè)人社交平臺(tái)上寫(xiě)到，「沒(méi)有任何語(yǔ)言、任何語(yǔ)句能夠表達(dá)我有多開(kāi)心」?？磥?lái)，Ilya 與 Altman 之間并非水火不容的關(guān)系。

從新舊董事會(huì)成員的整體背景來(lái)看，原董事會(huì)成員中有學(xué)者和研究者，而全新初始董事會(huì)成員擁有廣泛的商業(yè)和技術(shù)背景。

不過(guò)，根據(jù)一些外媒的說(shuō)法，全新初始董事會(huì)的主要工作是審查和任命一個(gè)最多 9 人的正式董事會(huì)，重置 OpenAI 的管理模式。另外，主要投資者微軟加入董事會(huì)的談判也正在進(jìn)行中。

股票變現(xiàn)可以繼續(xù)，但投資人也在改變策略

在這場(chǎng)風(fēng)波之前，OpenAI 正計(jì)劃以 860 億美元的估值出售員工股票。這場(chǎng)風(fēng)波讓員工們的變現(xiàn)機(jī)會(huì)蒙上了陰影，不過(guò)隨著 Sam Altman 的回歸，一切會(huì)慢慢重回正軌。

根據(jù) The Information 從知情人士獲知的消息，OpenAI 員工股票出售工作已重啟。由風(fēng)險(xiǎn)投資公司 Thrive Capital 牽頭的一批投資者將購(gòu)買(mǎi)員工或其他投資人持有的高達(dá) 10 億美元（可能還會(huì)更多）的股票，此次招標(biāo)活動(dòng)預(yù)計(jì)將于下月完成。此次招標(biāo)意義重大，員工股票出售是外部投資者買(mǎi)進(jìn) OpenAI 的最簡(jiǎn)單方式。

在 Sam Altman 風(fēng)波之前，已經(jīng)有一系列投資者參與其中，其中包括 OpenAI 現(xiàn)股東、好萊塢男明星阿什頓?庫(kù)徹聯(lián)合創(chuàng)立的風(fēng)險(xiǎn)基金 Sound Ventures。該基金在風(fēng)波之前已經(jīng)承諾參與邀約收購(gòu)，金額約為 1 億美元?，F(xiàn)在不清楚該基金是否仍計(jì)劃購(gòu)買(mǎi) OpenAI 股票。

最近幾天，投資者非常擔(dān)心他們持有的 OpenAI 股票價(jià)值會(huì)狂跌。因此，包括紅杉資本、Thrive Capital 和 Tiger Global Management 在內(nèi)都在為 Sam Altman 的復(fù)職鋪路。

雖然 Sam Altman 已經(jīng)回歸，但仍面臨投資者的一長(zhǎng)串問(wèn)題。據(jù)報(bào)道，OpenAI 保留的組織結(jié)構(gòu)中仍由「非營(yíng)利部門(mén)監(jiān)管從私人投資者籌集資金的營(yíng)利部門(mén)」。投資者對(duì)這種不尋常的結(jié)構(gòu)以及 OpenAI 缺乏常規(guī)治理表示嚴(yán)重?fù)?dān)憂(yōu)。

據(jù) The Information 報(bào)道，這次 OpenAI 的混亂并沒(méi)有讓風(fēng)投對(duì)人工智能行業(yè)失去信心。Crunchbase 的數(shù)據(jù)顯示，今年，風(fēng)險(xiǎn)投資者已經(jīng)向人工智能初創(chuàng)企業(yè)投入了超過(guò) 250 億美元的資金。一些風(fēng)投告訴 The Information，他們認(rèn)為 OpenAI 的失敗是公司特有的問(wèn)題，最近的事件不會(huì)讓他們撤回對(duì)其他人工智能初創(chuàng)公司的投資。

不過(guò)，The Information 認(rèn)為，他們?cè)谥С帜切┲卫斫Y(jié)構(gòu)不尋常的初創(chuàng)公司或那些建立在 OpenAI 技術(shù)基礎(chǔ)上的初創(chuàng)公司時(shí)會(huì)更加謹(jǐn)慎，并將鼓勵(lì)他們的投資組合公司嘗試其他模型提供商和開(kāi)源模型，這一趨勢(shì)已經(jīng)開(kāi)始出現(xiàn)。

目前，已經(jīng)有部分投資者開(kāi)始對(duì)依賴(lài)單一、專(zhuān)有服務(wù)進(jìn)行生成式 AI 競(jìng)爭(zhēng)的做法進(jìn)行重新評(píng)估。Saleforce、高通、英偉達(dá)和谷歌前 CEO Eric Schmidt 正在向開(kāi)源 AI 初創(chuàng)公司投資，比如 Hugging Face 和 Mistral AI。