幾天前，馬斯克、Yoshua Bengio 等人聯(lián)名簽署公開信，呼吁所有 AI 實(shí)驗(yàn)室應(yīng)立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 模型?，F(xiàn)在，又有人要叫停已經(jīng)發(fā)布的 GPT-4。

這次叫停 GPT-4 的是非營(yíng)利組織人工智能與數(shù)字政策中心（CAIDP）。CAIDP 請(qǐng)求美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）調(diào)查 OpenAI 公司并禁止該公司進(jìn)一步發(fā)布 GPT-4。

文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP 向 FTC 提出這份申請(qǐng)的原因是他們認(rèn)為「OpenAI 發(fā)布的消費(fèi)級(jí)產(chǎn)品 GPT-4 存在偏見、欺騙性，并且對(duì)隱私和公共安全構(gòu)成風(fēng)險(xiǎn)。模型的輸出無法證明或復(fù)現(xiàn)，且在部署之前沒有進(jìn)行獨(dú)立評(píng)估」。

CAIDP 呼吁對(duì)美國(guó)所有商業(yè)人工智能產(chǎn)品進(jìn)行獨(dú)立監(jiān)督和評(píng)估，并確保建立必要的「保護(hù)措施」，來保護(hù)消費(fèi)者、企業(yè)和商業(yè)市場(chǎng)。

此前，F(xiàn)TC 已經(jīng)宣布一個(gè)人工智能標(biāo)準(zhǔn)，即「在促進(jìn)問責(zé)制的同時(shí)，要求人工智能的使用是透明的、可解釋的、公平的，并在經(jīng)驗(yàn)上是合理的」，CAIDP 稱「OpenAI 的 GPT-4 不滿足這些要求中的任何一個(gè)」。

距離 GPT-4 發(fā)布僅過去兩周，人們已經(jīng)對(duì)這類強(qiáng)大的 AI 模型產(chǎn)生了巨大的分歧。一方面，想叫停 GPT-4 等強(qiáng)大模型的一類人認(rèn)為這些模型會(huì)給信息安全甚至人類社會(huì)構(gòu)成較大風(fēng)險(xiǎn)；另一方面，一些人認(rèn)為這正是人工智能蓬勃發(fā)展的好時(shí)機(jī)，我們應(yīng)該推動(dòng)技術(shù)的加速進(jìn)步。

有趣的是，OpenAI CEO Sam Altman 發(fā)布了一條新推特：「在風(fēng)暴的中心保持平靜。」這或許是他對(duì)于最近一系列「暫停 GPT-4 等模型研究」呼吁的回應(yīng)。

在風(fēng)險(xiǎn)方面，OpenAI 在發(fā)布時(shí)表示已讓外部專家評(píng)估 GPT-4 帶來的潛在風(fēng)險(xiǎn)。然而，CAIDP 在提交給 FTC 的申請(qǐng)中明確指出 GPT-4 違反了哪些法案。

CAIDP 認(rèn)為 GPT-4 嚴(yán)重影響了商業(yè)公平，稱：「GPT-4 的商業(yè)發(fā)布違反了 FTC 法案第 5 節(jié)、FTC 就人工智能產(chǎn)品的使用和廣告對(duì)企業(yè)制定的標(biāo)準(zhǔn)，以及人工智能治理的新興規(guī)范等等?！?/span>

此外，OpenAI 沒有透露 GPT-4 的任何技術(shù)細(xì)節(jié)。這也是 CAIDP 向 FTC 提出申請(qǐng)的原因之一。

CAIDP 表示：「OpenAI 沒有透露有關(guān)架構(gòu)、模型大小、硬件、計(jì)算資源、訓(xùn)練技術(shù)、數(shù)據(jù)集構(gòu)建或訓(xùn)練方法的細(xì)節(jié)，而研究界通常的做法是記錄大型語言模型的訓(xùn)練數(shù)據(jù)和訓(xùn)練技術(shù)，但 OpenAI 選擇不為 GPT-4 做這些事。特別地，生成式人工智能模型不是尋常的消費(fèi)品，因?yàn)樗鼈冊(cè)谑褂玫倪^程中可能會(huì)表現(xiàn)出一些異常行為，而這些行為可能是其發(fā)布公司之前沒有發(fā)現(xiàn)的?！?/span>

投訴細(xì)節(jié)

具體來說，CAIDP 在這份投訴申請(qǐng)中針對(duì) GPT-4 和相關(guān)模型 ChatGPT 指出了一系列潛在風(fēng)險(xiǎn)。

例如，OpenAI 在文章《 GPT-4 System Card 》中已經(jīng)明確表示，GPT-4 可能會(huì)強(qiáng)化和重現(xiàn)特定的偏見和世界觀，包括對(duì)某些邊緣群體的刻板印象和貶低聯(lián)想。CAIDP 還引用了 OpenAI 公司的一篇博文，該博文稱類似的大模型 ChatGPT 有時(shí)會(huì)響應(yīng)有害指令或表現(xiàn)出有偏見的行為。

在提交給 FTC 的投訴中，CAIDP 表示「OpenAI 在充分了解風(fēng)險(xiǎn)的情況下，還是向公眾發(fā)布了 GPT-4 ，以用于商業(yè)用途」。投訴還稱，「《 GPT-4 System Card 》沒有提供 OpenAI 在其測(cè)試期間進(jìn)行的安全檢查的詳細(xì)信息，也沒有詳細(xì)說明 OpenAI 為保護(hù)兒童采取的任何措施，這也引發(fā)了對(duì)兒童使用 GPT-4 的擔(dān)憂。」

CAIDP 還指出了歐洲消費(fèi)者組織 BEUC 提出的擔(dān)憂：「如果 ChatGPT 被用于消費(fèi)者信貸或保險(xiǎn)評(píng)分，那么它有沒有可能會(huì)產(chǎn)生不公平和有偏見的結(jié)果？」這條推文也被作為引用出現(xiàn)在 CAIDP 的投訴申請(qǐng)中。

另外，在網(wǎng)絡(luò)安全方面，ChatGPT 可被用于網(wǎng)絡(luò)釣魚、制作虛假文本，或是生成惡意代碼。在隱私方面，CAIDP 表示本月有報(bào)道稱 OpenAI 向其他用戶顯示了私人聊天記錄。

在另一個(gè)案例中，一位 AI 研究人員介紹了 ChatGPT 是如何接管某人賬戶，查看聊天記錄，并在他們沒有意識(shí)到的情況下訪問他們的賬單信息。不過 OpenAI 修復(fù)了該漏洞。

CAIDP 還表示，GPT-4 能夠從圖片輸入中提供文本回復(fù)，這一功能對(duì)個(gè)人隱私和個(gè)人自主權(quán)來說影響巨大，它能讓用戶將個(gè)人圖像與詳細(xì)的個(gè)人數(shù)據(jù)聯(lián)系起來。據(jù)了解，OpenAI 已暫停發(fā)布圖像到文本功能 ，但真實(shí)情況如何還不好說。

CAIDP 認(rèn)為 FTC 應(yīng)該禁止 OpenAI 對(duì) GPT 的進(jìn)一步商業(yè)部署，要求在部署之前和整個(gè) GPT AI 生命周期對(duì) GPT 產(chǎn)品進(jìn)行獨(dú)立評(píng)估，要求 OpenAI 遵守 FTC AI 標(biāo)準(zhǔn)，并建立一個(gè)可公開訪問的 GPT-4 的事件報(bào)告機(jī)制，類似于 FTC 報(bào)告消費(fèi)者欺詐的機(jī)制。

CAIDP 還敦促 FTC 進(jìn)一步發(fā)布標(biāo)準(zhǔn)規(guī)范，以用作「生成式人工智能市場(chǎng)領(lǐng)域的產(chǎn)品基本標(biāo)準(zhǔn)」。

AI 學(xué)界，一場(chǎng)論戰(zhàn)

從前兩天千人聯(lián)名要求暫停 GPT-4 后續(xù) AI 大模型的研發(fā)，到今天 CAIDP 要求 FTC 調(diào)查 OpenAI 禁止發(fā)布新的商業(yè)版 GPT-4。短短一兩天時(shí)間，各路討論已經(jīng)炸開了鍋，AI 大佬以及各路大牛紛紛出來公開回應(yīng)。他們當(dāng)中有反對(duì)的，也有支持的。

在暫停 GPT-4 后續(xù) AI 大模型的研發(fā)方面，圖靈獎(jiǎng)得主 Yoshua Bengio、特斯拉 CEO（OpenAI 聯(lián)合創(chuàng)始人）伊隆?馬斯克、紐約大學(xué)名譽(yù)教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是贊成派，他們已經(jīng)在暫停巨型 AI 實(shí)驗(yàn)公開信上簽了名。值得注意的是，CAIDP 的總裁兼創(chuàng)始人 Marc Rotenberg 也簽署了這份公開信。

公開信地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

不過一直抨擊 ChatGPT 的 Yann LeCun 公開表示不會(huì)簽署這封公開信，不同意這封公開信的內(nèi)容。

俄勒岡州立大學(xué)名譽(yù)教授 Thomas G. Dietterich 在推特上表示「我也沒簽。這封信充斥著一堆可怕的修辭和無效或不存在的政策。一些重要的技術(shù)和政策問題，都在努力解決中?！?LeCun 公開表示「我同意」。

吳恩達(dá)也發(fā)文公開反對(duì)千人聯(lián)名，并表示：「GPT-4 在教育、醫(yī)療保健、食品等方面都有很多新的應(yīng)用，會(huì)幫助很多人。除非政府介入，否則實(shí)施暫停并阻止所有團(tuán)隊(duì)擴(kuò)大 LLM 規(guī)模是不現(xiàn)實(shí)的。此外，讓政府暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，這樣就開了一個(gè)糟糕的先例，也是糟糕的政策。」

隨后田淵棟也支持吳恩達(dá)的觀點(diǎn)，「表明自己不會(huì)簽署暫停令。并表示這種事情一旦開始，就沒有辦法停止或扭轉(zhuǎn)這一趨勢(shì)，這就是進(jìn)化的必然。我們應(yīng)該換個(gè)角度向前看，更好地理解 LLM，適應(yīng)它并利用其力量，感受熱度。」

剛剛宣布離開谷歌大腦的 Yi Tay（之前是谷歌大腦的高級(jí)研究員）表示：「如果禁言在網(wǎng)上胡亂討論 LLM 的人 6 個(gè)月，我會(huì)簽名?！?/span>