LeCun與微軟總裁開嗆!曝出OpenAI六大金剛掌握AGI命運,一旦實現微軟收益為0
最近,微軟總裁Brad Smith在和LeCun的一次線下座談中起了爭執(zhí),隨后在網上引發(fā)了網友大量的討論。
在面對LeCun關于大模型開源問題時,微軟總裁拋出:「OpenAI是一個非盈利組織,Meta是一個由股東控制的上市公司,大家更希望AI技術被哪家掌握?」
大量網友對微軟總裁指出的「GPT-4的開放性,以及OpenAI是非盈利組織」的觀點猛烈輸出:
認為「天下苦微軟久矣」的網友把針對微軟的怒火也發(fā)到了OpenAI身上,逼得OpenAI的公關負責人連忙發(fā)帖,再次重申:OpenAI不是微軟投資的公司,是一家完全獨立的非盈利組織!
他一再強調,微軟投資的「OpenAI」,其實只是「OpenAI子公司」。換句話說,微軟拿到的股份,也只是「OpenAI子公司」的股份。
而這個「OpenAI子公司」是完全隸屬于「OpenAI母公司」——OpenAI Nonprofit的。
而微軟與OpenAI的投資協議中規(guī)定,微軟對OpenAI獲得利潤的收益,僅限于「OpenAI母公司」章程中規(guī)定的「達到AGI之前的收益」。
如果「OpenAI母公司董事會」一旦宣布「AGI已成」,那么微軟將不再能從OpenAI獲得任何收益!
所以,按照這個邏輯,微軟絕不是大家以為的「OpenAI的金主爸爸」,反而更像「OpenAI追求AGI」的工具人。
而這個能做出「達到AGI」決定的董事會,擁有了剝奪微軟投資收益的權力。
「OpenAI六大金剛」
有權力確定是否「達到AGI」,從而停止讓微軟等投資者分享OpenAI收益的「OpenAI 母公司董事會」,由6個人組成:
董事長兼總裁Greg Brockman、首席科學家Ilya Sutskever、首席執(zhí)行官Sam Altman以及另外3個非OpenAI的雇員Adam D'Angelo、Tasha McCauley和Helen Toner組成。
Ilya Sutskever左一,Sam Altman左二,Greg Brockman右一
這六個人作出的決定,將深刻影響人工智能領域的發(fā)展。
對于前三位,熟悉OpenAI的人想必都會有所了解,那么另外三位又是何許人也?
Adam D'Angelo
Adam D'Angelo生于1984年,他最著名的身份是Quora的聯合創(chuàng)始人兼首席執(zhí)行官。
Quora是世界上最大的知識問答型社區(qū),在百科類網站流量僅次于Wikipidia。
在2008年之前,他一直擔任Facebook的首席技術官,并兼任工程副總裁。
在他離開Facebook之前,是小扎手下最得力的干將。
Adam D'Angelo曾在Phillips Exeter Academy就讀高中。在那里,他與扎克伯格等人一起開發(fā)了Synapse Media Player(一款音樂建議軟件)。
作為天才少年,Adam D'Angelo于2002年進入加州理工學院,在之后的ACM國際大學生程序設計競賽(ICPC)中獲得不俗戰(zhàn)績(2003年北美冠軍;2004年世界總決賽銀牌;2005年世界總決賽聯合教練)。
現在,他主要的精力花在一個新的AI項目——Poe之上。
這是一個集合了各大AI聊天機器人和產品的集合工具,通過它可以訪問幾乎市面上所有的AI工具。
Tasha McCauley
Tasha McCauley以其在機器人領域的工作而聞名,她是Fellow Robots的聯合創(chuàng)始人。
2004年,McCauley從Bards College獲得藝術學士學位,之后又從Singularity University獲得了機器人學學位。2011年,她還獲得了南加州大學馬歇爾商學院的商業(yè)學士學位和工商管理碩士學位。
她的職業(yè)生涯始于機器人技術,并在母校教授機器人技術和人工智能。
畢業(yè)后,她被任命為學校Autodesk創(chuàng)新實驗室的主任。
2010年,她開始在「NASA Research Park」校區(qū)的「Artificial Intelligence and Robotics Track」擔任助理教授。
McCauley目前是「Ten to the Ninth Plus Foundation」的董事會成員,該公司致力于全球技術創(chuàng)新和進步。
而她的另一個身份是著名演員Joseph Gordon Levitt的妻子。
Helen Toner
最后一位董事會成員為Helen Toner。
她是喬治城大學安全與新興技術中心(CSET)的戰(zhàn)略和基礎研究基金主任。
她曾在Open Philanthropy擔任高級研究分析師,在那里她為政策制定者和資助者提供人工智能政策和戰(zhàn)略方面的建議。
在Open Philanthropy工作和加入CSET期間,Helen住在北京,作為牛津大學人工智能治理中心的研究附屬機構,研究中國的人工智能生態(tài)系統。
她本科畢業(yè)于澳大利亞墨爾本大學,曾在清華大學學習過一段時間的中文,碩士畢業(yè)于喬治城大學。
他們三位都曾與有效利他主義運動(Effective Altruism movement)有過聯系。
而OpenAI長期以來也與EA有著千絲萬縷的關聯:例如,2017年3月,OpenAI從有效利他主義者資助的Open Philanthropy獲得了3000萬美元的資助。
但OpenAI發(fā)言人說:「我們的董事會成員都不是有效利他主義者;他們與EA社區(qū)的互動主要集中在與人工智能安全相關的話題上?!?/span>
AGI的定義還遠未達成共識,因此,由六個人決定是否已經達到AGI,這對OpenAI以及整個世界意味著什么?
而未來可能做出這一決定的時機和背景對其最大的投資者微軟又意味著什么?
6人董事會決定AGI:不尋常,但合規(guī)合法
Suzy Fulton是一位專門為科技領域的初創(chuàng)企業(yè)和新興公司提供法律服務的律師,她認為,雖然在很多情況下,由董事會做出這種「AGI決定」是「不尋常的」。
但根據OpenAI的章程,「OpenAI母公司」董事會確實有權力決定「安全、廣泛受益的AGI」使命。
Suzy說,「他們認為,非營利性董事會的受益人是人類,而營利性董事會的受益人是投資者。他們試圖建立的另一個保障措施是讓董事會多數成員獨立,即多數成員在OpenAI中沒有股權。」
芝加哥大學法學院教授Anthony Casey也認為,由董事會決定像AGI這樣的具體操作問題是「不尋常的」,但他不認為存在任何法律障礙。
他說:「具體確定某些問題必須在董事會層面做出決定,這個規(guī)定本身是沒有問題的。事實上,如果一個問題足夠重要,公司法一般會規(guī)定董事有責任對該問題進行監(jiān)督?!?/span>
并不是所有專家都相信AGI會很快到來,有些專家甚至質疑AGI是否可能實現。
據人工智能與數字政策中心(Center for AI and Digital Policy)主席Merve Hickok稱,「應該調查OpenAI,并命令該公司停止發(fā)布GPT模型,直到建立起必要的保障措施為止。OpenAI對AGI的關注忽視了人工智能模型和工具的當前影響?!?/span>
她認為當前不應該討論OpenAI董事會成員是否有資格決定是否「達到AGI」。
因為「這將轉移焦點,并在事實上使AGI是可能的說法合法化」。
事實上,OpenAI缺乏對AGI的明確定義:
OpenAI曾在2023年2月的一篇博文中表示「第一個AGI將只是智能連續(xù)體上的一個點」。
但在2023年1月的采訪中,Sam Altman說的是:「我希望看到的未來是,人工智能的使用權超級民主化,世界上有多個AGI,可以幫助人們形成多種觀點,不會讓任何人變得太強大」。
OpenAI的夢想由微軟買單?
我們無法知曉OpenAI和微軟之間投資協議的全部細節(jié)。
但根據OpenAI官方公布的情況來看,微軟從投資OpenAI的一開始,就接受了的上限股權的提議,以及將AGI技術和公司的完整控制權留給「OpenAI Nonprofit」的要求。
聽起來似乎一旦OpenAI完成了他們既定的實現AGI的使命,微軟就將退出這個圈子。
但如果OpenAI真誠地履行其非營利性使命,那么OpenAI的結構以及與微軟的關系可能會導致一些「大糾紛」。
Anthony Casey指出:「確實有一些非營利組織擁有營利組織的股份,其中最著名的是Hershey Trust。但他們完全掌控營利機構,沒有小股東的反對。但對于OpenAI,微軟的營利性利益可能會直接與控制實體的非營利性利益發(fā)生沖突」。
利潤上限很容易實施,難的是,如果達到最高利潤與非營利組織的使命相沖突時,又該怎么辦?
通常,實現利潤是首要任務,管理者必須將其放在首位。
也許微軟會說,「別擔心,無論如何我們都是好的。你不欠我們任何義務?!埂@聽起來不像是微軟的談判方式。