谷歌、微軟、OpenAI 和 Anthropic 發(fā)布聯(lián)合聲明，任命美國智庫學會高管 Chris Meserole 為前沿模型論壇 (Frontier Model Forum) 首任執(zhí)行董事。并宣布設立 1000 萬美元的 AI 安全基金，“以推動正在進行的工具開發(fā)研究，幫助社會能夠有效地測試和評估最有能力的 AI 模型?！?/p>

前沿模型論壇由微軟、OpenAI、谷歌和 Anthropic 在今年 7 月聯(lián)合創(chuàng)立而成，是一個專注于確保安全和負責任地開發(fā)前沿人工智能模型的行業(yè)機構。該論壇旨在幫助：

• 推動人工智能安全研究，促進負責任地開發(fā)前沿模型并最大限度地降低潛在風險；
• 確定前沿模型的安全最佳實踐；
• 與政策制定者、學術界、民間社會和其他方面分享知識，推動負責任的人工智能發(fā)展；
• 以及大力支持開發(fā)有助于應對社會挑戰(zhàn)的 AI 應用程序。

公告指出，AI 安全基金將支持來自世界各地附屬于學術機構、研究機構和初創(chuàng)公司的獨立研究人員。初始資金來自 Anthropic、谷歌、微軟和 OpenAI，以及其他慈善合作伙伴。

基金的主要重點將在于，支持開發(fā)新的模型評估技術，以幫助開發(fā)和測試前沿系統(tǒng)潛在危險能力的評估技術?！拔覀兿嘈?，增加該領域的資金將有助于提高安全標準，并為行業(yè)、政府和民間社會應對 AI 系統(tǒng)帶來的挑戰(zhàn)所需的緩解和控制提供見解。 ”

該基金將在未來幾個月內征集提案。前沿模型論壇還計劃成立一個顧問委員會，以幫助指導其戰(zhàn)略和優(yōu)先事項。

1000 萬美元不算小數(shù)目，但在 AI 安全研究的背景下以及與前沿模式論壇成員在商業(yè)活動上的花費相比，這一數(shù)目就 “顯得相當保守了”。科技媒體 TechCrunch 指出，僅今年一年，Anthropic 就從亞馬遜籌集了數(shù)十億美元，用于開發(fā)下一代 AI 助手，此前谷歌也向其投資了 300 美元。

且與其他 AI 安全基金相比，該基金的規(guī)模也很小。根據(jù)博客 Less Wrong 的分析，由 Facebook 創(chuàng)始人 (Dustin Moskovitz 聯(lián)合創(chuàng)辦的資助和研究基金會 Open Philanthropy 已為 AI 安全捐贈了約 3.07 億美元。

公益公司 “The Survival and Flourishing Fund” 也已向 AI 安全項目捐贈了約 3000 萬美元。美國國家科學基金會表示，未來兩年將斥資 2000 萬美元用于 AI 安全研究，部分資金由 Open Philanthropy 資助。

“前沿模型論壇暗示下一步將成立一個規(guī)模更大的基金。如果這一目標實現(xiàn)，它可能有機會推動 AI 安全研究 —— 前提是我們相信該基金的明確營利性支持者不會對研究施加不當影響。但無論你如何劃分，首批資金似乎都過于有限，無法取得多大成就。”