小扎最近又?jǐn)偵洗笫铝恕?/span>

兩位國會(huì)議員Richard Blumenthal（國會(huì)隱私，技術(shù)和法律委員會(huì)主席）和 Josh Hawley（國會(huì)隱私，技術(shù)和法律委員會(huì)成員）給小扎寫了一封措辭嚴(yán)厲的質(zhì)詢函。

兩議員寫信嚴(yán)厲質(zhì)問小扎關(guān)于LLaMa的泄露事件

要求小扎針對(duì)之前LLaMa模型在4chan被泄露這一事件，在15號(hào)之前回答幾個(gè)關(guān)鍵問題。

其中最嚴(yán)重的是這三個(gè)：

• 在發(fā)布LLaMa之前，Meta有沒有對(duì)泄露等情況做過風(fēng)險(xiǎn)評(píng)估？
• 在發(fā)布LLaMa之后，Meta有沒有采取任何措施防止模型泄露，或者減少模型泄露之后的危害？
• Meta是否使用了用戶的數(shù)據(jù)來訓(xùn)練模型或者進(jìn)行AI技術(shù)的研究？

整封信措辭非常強(qiáng)硬，通篇都在說因?yàn)長LaMa的泄露可能會(huì)引發(fā)的犯罪，網(wǎng)絡(luò)欺詐和各種負(fù)面情況。

信中提到：

「我們對(duì) Meta 的 AI 模型的泄漏感到擔(dān)憂，非常擔(dān)心Meta AI (LLaMA) 及其在垃圾信息、欺詐、惡意軟件、侵犯隱私，騷擾以及其他不當(dāng)行為中的被濫用的可能性和造成的傷害」

「選擇以這種不受限制和不負(fù)責(zé)任的方式分發(fā) LLaMA 引發(fā)了重要而復(fù)雜的問題：何時(shí)以及如何公開發(fā)布復(fù)雜的AI模型是合適的」

仿佛就是在暗示以后如果出大事，你小扎必須吃不了兜著走。

而且信里對(duì)于OpenAI和它的產(chǎn)品ChatGPT，卻塑造成了一個(gè)「?jìng)ス庹沟恼嫘蜗蟆?/span>

「OpenAI的ChatGPT會(huì)根據(jù)其道德準(zhǔn)則拒絕該請(qǐng)求。相比之下，LLaMA會(huì)提供所要求的信件，以及涉及自殘、犯罪和反猶太主義的其他答案。」

這位Richard Blumenthal就是前段時(shí)間Sam Altman在國會(huì)接受質(zhì)詢時(shí)最重要的提問者和主持人。

當(dāng)時(shí)他對(duì)Altman的態(tài)度可是相當(dāng)?shù)暮皖亹偵?/span>

再相比之前小扎的質(zhì)詢會(huì)議上，他不但打斷小扎的發(fā)言，還針鋒相對(duì)地舉了牌子，上面寫了小扎道歉的集錦，質(zhì)問他為啥只會(huì)認(rèn)錯(cuò)卻不知悔改。

同樣是科技領(lǐng)袖，咋待遇差別就那么大呢？

明明自己的模型開源給AI研究社區(qū)使用，推動(dòng)了AI的對(duì)齊和透明度等安全技術(shù)的發(fā)展，還要被國會(huì)的老頭老太太們天天盯著質(zhì)詢。

競(jìng)爭(zhēng)對(duì)手的開源和訓(xùn)練數(shù)據(jù)的合法性問題卻被監(jiān)管無視，還被奉為座上賓。

再加上質(zhì)詢信中對(duì)OpenAI和Meta的拉踩，看得出來監(jiān)管層對(duì)于小扎和Meta真的意見很大。

技術(shù)落后可以通過努力來追趕，被監(jiān)管層戴著有色眼鏡挑刺，那以后真的就麻煩大了。

此時(shí)小扎心里應(yīng)該是一萬個(gè)LLaMA大模型跑過。

AI開源英雄——扎克伯格

但就發(fā)布LLaMa這件事情上，小扎和Meta卻是真的得到了行業(yè)和公眾的一致認(rèn)可。

在質(zhì)詢信主要作者Richard Blumenthal自己的推特上，他轉(zhuǎn)發(fā)了自己寫的信，還對(duì)自己的行為進(jìn)行了一番義正詞嚴(yán)地?cái)⑹觥?/span>

但是下面的回復(fù)卻幾乎被網(wǎng)友一邊倒的質(zhì)疑甚至是打擊。

網(wǎng)友反應(yīng)

開源的代碼是受第一修正案保護(hù)的。只要開源Meta沒辦法阻止對(duì)于公眾使用，所以你提出這些問題讓我懷疑你動(dòng)機(jī)。

到底是誰給了你權(quán)力認(rèn)為AI是的危險(xiǎn)的？人民對(duì)于你阻止AI技術(shù)開源和免費(fèi)這事情投過票嗎？作為人民的代表你已經(jīng)越界了！

Meta開源了，不涉及商業(yè)利益，那么「Commerce Clause」就管不了啦！它被Meta之外的人泄露你去找Meta有什么用呢？

議員，你真的沒有權(quán)力監(jiān)管AI的發(fā)展，現(xiàn)在沒有以后也沒有。而且對(duì)于一個(gè)全球所有人都能接入公眾網(wǎng)絡(luò)服務(wù)，怎么可能被完全管控起來呢？

請(qǐng)用你的立法權(quán)力保證你的議員工作不會(huì)被取代。

希望你以后被大家選下去。

LLaMa只是一個(gè)注腳。阿聯(lián)酋的Falcon直接商業(yè)開源了，之后會(huì)有更多的項(xiàng)目基于這些開源的模型。所以請(qǐng)不要為了追求一些不可能達(dá)到的目的而抑制美國的創(chuàng)新能力和關(guān)鍵的開源技術(shù)。

沒有必要責(zé)怪FB,這樣會(huì)讓本想開源的公司被迫閉源，這樣我們追求的技術(shù)透明度就更加難以實(shí)現(xiàn)了。這是非常危險(xiǎn)的情況。

讓Meta承擔(dān)對(duì)于AI濫用的后果是沒有意義的，Meta沒有能力也沒有責(zé)任承擔(dān)這個(gè)，就像不能要求槍械，錘子和棒球棍的廠家來承擔(dān)這些東西濫用的后果是一個(gè)道理。

在他的這條推文下面的110個(gè)回復(fù)中，幾乎找不到支持他寫這封信的留言。

看得出來，留言的大部分網(wǎng)友都在幫小扎辯解說LLaMa的發(fā)布和對(duì)大語言模型的開源正在推動(dòng)行業(yè)和技術(shù)的進(jìn)步。

因?yàn)閷?duì)于AI行業(yè)來說，開源可能是讓公眾能徹底了解這項(xiàng)技術(shù)并且保證AI技術(shù)安全服務(wù)人類的最重要的途徑。

如果有朝一日真的要因?yàn)锳I安全問題追責(zé)小扎或者M(jìn)eta，背后的邏輯就像是哥譚要通過追責(zé)蝙蝠俠來確保哥譚的治安一樣荒謬。

所以議員的這封問責(zé)信，自然就站在了公眾的對(duì)立面，不得人心。

Meta在LLaMa上獲得的支持，除了來自公眾以外，更來自開源社區(qū)。

有人甚至把LLaMa的開源比作Linux的發(fā)布。

因?yàn)檎怯辛薒inux這個(gè)開源的操作系統(tǒng)，網(wǎng)絡(luò)初創(chuàng)公司的門檻才被有效地降低。

數(shù)據(jù)中心才能在商業(yè)硬件和軟件上運(yùn)行，為云技術(shù)的誕生提供必要的條件。

而正是隨著LLaMa在4chan上的泄露，才催生了今年3月份的「羊駝大爆發(fā)」。

賦予了AI開源社區(qū)的模型與微軟和谷歌這種閉源科技巨頭競(jìng)爭(zhēng)的可能性。

如果像當(dāng)初的軟件行業(yè)一樣，我們把現(xiàn)在的AI行業(yè)分為開源和閉源兩個(gè)陣營。

那小扎所領(lǐng)導(dǎo)的Meta就是開源陣營的領(lǐng)袖。

小扎的AI野望

就在前幾天，小扎和硅谷著名的科技訪談節(jié)目主持人Lex Fridman進(jìn)行了一場(chǎng)接近3個(gè)小時(shí)的訪談。

在訪談中，他充分分享了自己對(duì)于AI技術(shù)和行業(yè)的愿景。

從中也許我們能窺探出他為什么要把Meta AI的未來押寶在開源和開源社區(qū)之上。

未來的AI需求決定了開源是解決問題的答案

在小扎看來，未來用戶將與許多不同的 AI 進(jìn)行互動(dòng)，就像現(xiàn)在你希望使用各種不同的 APP 來完成不同的任務(wù)，也

像在生活中與不同的人建立有不同的情感聯(lián)系一樣。

在商業(yè)領(lǐng)域也存在這種需求，全球每家企業(yè)都將希望擁有一個(gè) AI。

就像你在 Instagram、Facebook、WhatsApp 或其他平臺(tái)上擁有自己的主頁，你希望將人們引導(dǎo)到可以與之互動(dòng)的 AI 上。

這樣 AI 就會(huì)向用戶推薦更多自家產(chǎn)品，而不是競(jìng)爭(zhēng)對(duì)手的產(chǎn)品。

所以，未來單一AI不可能解決所有問題，因?yàn)樗赡芘c每個(gè)特定企業(yè)的利益不一致。

這就是為什么小扎認(rèn)為市場(chǎng)和生活中肯定存在對(duì)不同 AI 的明確需求。

而為了滿足未來人們對(duì)于多元化，定制化的AI的需求，開源就是最好的答案。

闡明了為什么要開源，小扎進(jìn)一步分享到：

開源在生態(tài)系統(tǒng)內(nèi)可以產(chǎn)生更多的創(chuàng)新，使Meta產(chǎn)品變得更好，并為Meta提供安全性的寶貴反饋，這對(duì)于Meta打造一個(gè)良好的系統(tǒng)非常重要。

另一個(gè)原因是開源軟件往往更安全，因?yàn)橛懈嗳藢彶榫透菀装l(fā)現(xiàn)其中的漏洞。

在目前的AI規(guī)模下，通過AI開源更容易實(shí)現(xiàn)對(duì)齊和理解。

這些都是AI開源的會(huì)給AI行業(yè)和Meta自身帶來的好處。

AGI時(shí)代面臨新的選擇

從還未到達(dá)AGI階段的視角來看，在更開放的環(huán)境中，開源相較閉源來說是更好的選擇。

但在接近AGI或者是超級(jí)人工智能的時(shí)代，這個(gè)問題就需要重新思考和探討。

小扎認(rèn)為世界上已經(jīng)存在了超越人類智能的組織和結(jié)構(gòu)。

比如說公司作為一個(gè)實(shí)體，有自己獨(dú)特的品牌。

Meta作為一個(gè)公司能體現(xiàn)出超越個(gè)人的智能。

類似于公司的網(wǎng)絡(luò)系統(tǒng)，會(huì)將多個(gè)人的智能融合在一起，或者將多個(gè)人和技術(shù)的智能融合在一起，形成一個(gè)比世界上任何個(gè)人都聰明得多的實(shí)體，并且能夠以一種積極的方式利用這些系統(tǒng)對(duì)社會(huì)產(chǎn)生影響。

沒人知道什么時(shí)候 AGI 會(huì)出現(xiàn)，但從歷史中我們能認(rèn)識(shí)到，這種更加智能的系統(tǒng)是一種推動(dòng)人類進(jìn)步有益現(xiàn)象。

某種程度上，個(gè)體的AI系統(tǒng)使個(gè)體人類和其他人之間的相互作用變得更加智能，這樣集體智能也更加智能。

在分享的最后，小扎還不忘自嘲一把。

說「人生中經(jīng)歷了太多失敗和尷尬的我，忍受失敗和尷尬已經(jīng)成了我的核心競(jìng)爭(zhēng)力」。