大模型開不開源,硅谷大佬激辯: 一方談科學進步,另一方提美國安全
3月8日消息,風投界的兩位巨頭,馬克·安德森(Marc Andreessen)和維諾德·科斯拉(Vinod Khosla),近期在X平臺激烈辯論人工智能應(yīng)該開源還是閉源,此議題迅速成為硅谷最具爭議的焦點之一。
安德森等人強烈支持開源人工智能,他們認為共享知識是科學進步的關(guān)鍵,提高透明度能夠防止大公司壟斷這項革命性技術(shù)。而科斯拉等閉源人工智能的支持者認為,讓私營部門掌握人工智能技術(shù),是防止濫用和潛在風險的有效方法。
開源人工智能意味著技術(shù)將對公眾免費開放,以促進共同的建設(shè)和分享。而閉源或?qū)S腥斯ぶ悄軇t被其創(chuàng)作者控制,不對外公開。盡管二者看似對立,實則可以和諧共存。例如,許多公司在開源代碼的基礎(chǔ)上發(fā)展出自有的專有系統(tǒng)。
此場辯論起因于特斯拉CEO埃隆·馬斯克(Elon Musk)對OpenAI及其CEO薩姆·奧特曼(Sam Altman)的起訴,凸顯了人工智能的部署和安全問題的復雜性,特別是在監(jiān)管機構(gòu)、大型科技公司和科學家等對人工智能的發(fā)展邊界和速度仍在探索時,想要找到明確的答案何其艱難。
在人工智能是否應(yīng)該開源的爭論中,身處漩渦中心的科技巨頭們已經(jīng)明確了各自的立場。Meta堅定支持開源人工智能,發(fā)布了Llama 2模型供全球開發(fā)者使用和改進。緊隨其后的是法國Mistral AI,發(fā)布了具有開放“權(quán)重”的模型,即模型運作的核心參數(shù)。
然而,行業(yè)領(lǐng)頭羊OpenAI和Anthropic采取了完全不同的策略,他們提供的是閉源人工智能模型,并堅持把技術(shù)牢牢控制在自己手中。
在這場辯論中,安德森于上周六通過社交媒體X發(fā)帖。他指責科斯拉正在“游說禁止開源”。這發(fā)生在科斯拉公開支持OpenAI及其CEO奧特曼之后。而他的支持是在馬斯克對OpenAI提起訴訟之后表達的;馬斯克指責奧特曼和OpenAI違背了公司創(chuàng)立時的原則,把追求利潤放在了開源人工智能之前。
作為科斯拉風投公司(Khosla Ventures)的創(chuàng)始人,科斯拉不僅支持OpenAI的盈利性業(yè)務(wù),還聲稱,人工智能就如同核武器一旦開源將可能威脅到國家安全。他甚至引用了OpenAI首席科學家伊利亞·蘇茨凱弗(Ilya Sutskever)的話說,“不分享科學也是完全可以的。”
科斯拉風投公司的一位發(fā)言人進行了解釋。他說,科斯拉確實曾支持開源技術(shù)。然而,科斯拉現(xiàn)在認為,大型人工智能模型“關(guān)乎國家安全和技術(shù)”優(yōu) 勢,這些模型需要得到嚴密保護,不應(yīng)輕易開源。
安德森所在的安德森-霍洛維茨(Andreessen Horowitz)風投公司對此次開源與閉源的辯論保持緘默,對評論請求沒有給出回應(yīng)。
雙方雖立場對立,但均認同一個觀點:驅(qū)動ChatGPT等AI工具的大語言模型仍處于成長階段。ChatGPT與其他人工智能工具面臨的問題眾多,包括產(chǎn)生幻覺性輸出、偏見性結(jié)果,甚至有潛力輸出有害或攻擊性內(nèi)容。此外,這些模型的應(yīng)用和訓練成本高昂,還會消耗大量能源。
開源支持者認為,正是這些技術(shù)的未成熟,更加凸顯了開源的重要性。他們認為,只有在科學家和學者組成的開放的科研社區(qū)內(nèi),才能排除商業(yè)利益的干擾,共同推進通用人工智能的發(fā)展,最終實現(xiàn)機器能夠如同人類一樣學習和思考。
艾倫人工智能研究所(Allen Institute for AI)的首席執(zhí)行官阿里·法哈迪(Ali Farhadi)表示:“我們現(xiàn)在正處在一個關(guān)鍵節(jié)點,大規(guī)模部署了一項我們尚未完全理解的技術(shù),也不知道如何有效控制這些系統(tǒng)?!痹撗芯克梢压饰④浡?lián)合創(chuàng)始人保羅·艾倫(Paul Allen)于2014年創(chuàng)立,是一個致力于人工智能研究的非營利機構(gòu)。
法哈迪及其他支持開源的人士強調(diào),共享研究成果是科學界的長久傳統(tǒng)。人工智能的發(fā)展不是從2017年谷歌分享的“轉(zhuǎn)換器”(Transformer,GPT中的T)模型開始的,其背后有更深遠的歷史。
同時,一些美國議員則支持科斯拉的觀點,他們擔心自由分享的人工智能技術(shù)可能落入國外競爭對手手中,因此認為應(yīng)該加以保護。許多主張閉源的人工智能公司也持有相似立場,認為這種技術(shù)可能對人類生存構(gòu)成威脅,可能帶來災難性后果。
奧特曼也強調(diào),OpenAI高度重視其在開發(fā)人工智能方面的安全責任,堅信應(yīng)該小心謹慎。他同時承認,人工智能為企業(yè)帶來了巨大商業(yè)機會。
回顧歷史,軟件行業(yè)的開源運動,自Linux等項目興起后蓬勃發(fā)展,為當前開放與封閉的辯論提供了豐富的歷史借鑒。開源軟件已成為包括云計算在內(nèi)的眾多技術(shù)領(lǐng)域的基石,其商業(yè)化甚至促成了亞馬遜等科技巨頭的誕生。然而,開源軟件也面臨著網(wǎng)絡(luò)安全挑戰(zhàn),因為任何人都能輕易下載和修改代碼。
專家們指出,封閉和開源技術(shù)并不是相互排斥的,兩者可以并行發(fā)展。Meta負責生成人工智能的副總裁艾哈邁德·達勒(Ahmad Al-Dahle)就認為,把開源和封閉視為二選一的對立選擇是誤導,實際上兩者各有其發(fā)展空間。
人工智能初創(chuàng)公司AI21的聯(lián)合創(chuàng)始人兼聯(lián)席CEO奧里·戈申(Ori Goshen)也分享了相似觀點,他認為,“開源在人工智能領(lǐng)域扮演著至關(guān)重要的角色。即便是像AI21這樣的專有供應(yīng)商,其基礎(chǔ)模型最終也可能開源,商業(yè)價值將來源于獨特的知識產(chǎn)權(quán)?!?/p>