「這是一個艱難的決定，會讓一些人感到不安。但是，綜合考慮所有因素，我認(rèn)為加州或許應(yīng)該通過 SB 1047 人工智能安全法案。二十多年來，我一直是人工智能監(jiān)管的倡導(dǎo)者，正如我們對任何對公眾存在潛在風(fēng)險的產(chǎn)品 / 技術(shù)進(jìn)行監(jiān)管一樣?！箘倓?，馬斯克發(fā)了這樣一則推文。

馬斯克提到的 SB 1047 全稱是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿人工智能模型安全創(chuàng)新法案》）」，旨在為高風(fēng)險的 AI 模型建立明確的安全標(biāo)準(zhǔn)，以防止其被濫用或引發(fā)災(zāi)難性后果。

具體來說，該法案旨在從模型層面對人工智能進(jìn)行監(jiān)管，適用于在特定計算和成本閾值之上訓(xùn)練的模型。但如果嚴(yán)格按照規(guī)定的計算和成本閾值來算，現(xiàn)在市面上所有主流的大型模型都會被認(rèn)為存在「潛在危險」。而且，法案要求模型背后的開發(fā)公司對其模型的下游使用或修改承擔(dān)法律責(zé)任，這被認(rèn)為會給開源模型的發(fā)布帶來「寒蟬效應(yīng)」。

該法案于今年 2 月份在參議院被提出，隨后一直爭議不斷。很多科學(xué)家認(rèn)為，法案的條款過于不合理，將對科技創(chuàng)新造成毀滅性的影響。前段時間，李飛飛親自撰文，闡述了法案可能帶來的諸多不利影響。加州大學(xué)的數(shù)十名師生簽署了聯(lián)名信，以反對這一法案（參見《李飛飛親自撰文，數(shù)十名科學(xué)家簽署聯(lián)名信，反對加州 AI 限制法案》）。

在反對聲浪如此高漲的當(dāng)下，馬斯克的態(tài)度多少有點出人意料。畢竟一旦法案通過，他創(chuàng)建的 xAI 所訓(xùn)練的 Grok 系列模型也會被納入監(jiān)管范圍，而且研發(fā)進(jìn)度也可能受到影響。

與此同時，他的競爭對手 OpenAI 最近宣布反對該法案，轉(zhuǎn)而支持替代法案。

SB 1047 將于本周在州立法機(jī)關(guān)進(jìn)行投票。如果在 8 月 31 日立法會議結(jié)束前獲得通過，它將被提交給州長 Gavin Newsom，他將在 9 月 30 日之前簽署或否決該法案。

OpenAI：人工智能革命才剛剛開始，SB 1047 將逼走世界級人才

前段時間，OpenAI 發(fā)布了一封公開信，反對 SB 1047 法案。公開信指出，該法案將損害人工智能行業(yè)的創(chuàng)新，而且該問題的監(jiān)管應(yīng)該來自聯(lián)邦政府，而不是各州。

OpenAI 首席戰(zhàn)略官 Jason Kwon 在信中寫道：「人工智能革命才剛剛開始，加州作為人工智能全球領(lǐng)導(dǎo)者的獨特地位正在推動該州的經(jīng)濟(jì)發(fā)展。SB 1047 將威脅這種增長，減緩創(chuàng)新步伐，并導(dǎo)致世界級的工程師和企業(yè)家離開該州，在其他地方尋找更大的機(jī)會?！?/span>

據(jù)一位知情人士透露，由于擔(dān)心加州監(jiān)管環(huán)境的不確定性，OpenAI 暫停了關(guān)于擴(kuò)大其舊金山辦事處的對話。

法案起草者、加州參議員 Scott Wiener 在一份聲明中為擬議中的立法進(jìn)行了辯護(hù)，并表示 OpenAI 的信「沒有批評法案中的任何一項條款」。他還表示，關(guān)于人工智能人才離開該州的論點「毫無意義」，因為該法律將適用于任何在加州開展業(yè)務(wù)的公司，無論其辦公室位于何處。

Anthropic、Hinton、Bengio 支持 SB 1047

其實，在 OpenAI 發(fā)布公開信之前，SB 1047 已經(jīng)經(jīng)過了一番修改，以安撫科技公司，主要修訂如下：  

據(jù)悉，部分修改意見由另一家人工智能科技公司 Anthropic 提出。最近，該公司公開表示支持修訂后的法案，但也并非毫無保留。

「根據(jù)我們的評估，新的 SB 1047 已經(jīng)有了很大的改進(jìn)，我們認(rèn)為它的好處可能超過成本，」Anthropic CEO Dario Amodei 在 8 月 21 日給加州州長 Gavin Newsom 的一封信中說?！溉欢?，我們對此并不確定，該法案的某些方面對我們來說似乎令人擔(dān)憂或模棱兩可?！?/span>

除了 Anthropic 和馬斯克，SB 1047 還獲得了包括 Geoffrey Hinton 和 Yoshua Bengio 在內(nèi)的知名人工智能研究人員的支持，他們強(qiáng)調(diào)了平衡創(chuàng)新與安全的重要性。Hinton 稱贊該法案方法合理，強(qiáng)調(diào)了需要有針對強(qiáng)大人工智能系統(tǒng)風(fēng)險的立法。

對于兩位好友的看法，和他們一起獲得 2018 年圖靈獎的 Yann LeCun 表示完全不同意。他既不相信現(xiàn)在的大模型能達(dá)到超人水平，也不認(rèn)為超級 AI 必然主宰人類。在他看來，現(xiàn)在對 AI 進(jìn)行嚴(yán)格監(jiān)管還為時過早。

支持標(biāo)記 AI 生成的內(nèi)容

雖然反對 SB 1047，但其實大部分 AI 研究者、科技公司并非完全反對監(jiān)管，而是反對 SB 1047 里的監(jiān)管方法。

例如，在對人工智能生成的內(nèi)容進(jìn)行標(biāo)記方面，加州一項法案最近就取得了新進(jìn)展。

據(jù) TechCrunch 報道，OpenAI、Adobe 和微軟已支持加州一項法案 ——AB 3211，該法案要求科技公司對人工智能生成的內(nèi)容進(jìn)行標(biāo)記。

AB 3211 法案將于八月進(jìn)行最終投票。該法案要求人工智能生成的照片、視頻和音頻剪輯的元數(shù)據(jù)中包含水印。許多人工智能公司已經(jīng)這樣做了，但大多數(shù)人不閱讀元數(shù)據(jù)。AB 3211 法案還要求 Instagram、X 等大型在線平臺以普通網(wǎng)友可以理解的方式標(biāo)記人工智能生成的內(nèi)容。

OpenAI、Adobe 和微軟是內(nèi)容來源和真實性聯(lián)盟（C2PA）的成員。從今年早些時候開始，OpenAI 已經(jīng)向由 DALL?E 3、ChatGPT 和 OpenAI API 創(chuàng)建和編輯的圖像中添加了 C2PA 元數(shù)據(jù)。

值得注意的是，商業(yè)軟件聯(lián)盟 BSA（成員包括 Adobe、微軟等）在 4 月份曾表示反對 AB 3211 法案，他們在致加州立法者的一封信中稱該法案「不可行」且「過于繁重」。然而，該法案的修正案似乎改變了他們的想法。

不過，科研人員對 SB 1047 法案的態(tài)度似乎沒這么容易轉(zhuǎn)變。特別是，以 OpenAI 為代表的科技公司一直持反對意見。SB 1047 法案的最終投票結(jié)果可能會在人工智能行業(yè)激起一些風(fēng)浪。