人工智能的發(fā)展日新月異，尤其是生成型人工智能，已經(jīng)成為科技行業(yè)的熱門話題。然而，生成型人工智能也存在著失控的風險。為了確保生成型人工智能的“安全和負責任”地發(fā)展，今天，四家領先的人工智能科技公司宣布成立前沿模型論壇（Frontier Model Forum）。

前沿模型論壇是一個專注于前沿人工智能模型的組織，由微軟、OpenAI、谷歌和 Anthropic 四家公司共同發(fā)起。所謂前沿人工智能模型，是指那些超越現(xiàn)有最先進模型的能力，并且可以執(zhí)行多種任務的大規(guī)模機器學習模型。

在谷歌的博客文章中，該組織公布了其目標，IT之家翻譯如下：

• 推進人工智能安全研究，促進前沿模型的負責任開發(fā)，降低風險，并實現(xiàn)獨立、標準化的能力和安全評估。
• 確定前沿模型負責任開發(fā)和部署的最佳實踐，幫助公眾了解這項技術的性質(zhì)、能力、局限和影響。
• 與政策制定者、學者、民間社會和企業(yè)合作，分享有關信任和安全風險的知識。
• 支持開發(fā)可以幫助應對社會最大挑戰(zhàn)的應用，例如減緩和適應氣候變化、早期癌癥檢測和預防、以及應對網(wǎng)絡威脅。

該組織將首先建立一個顧問委員會，以便開始制定前沿人工智能模型的安全標準建議，并開展人工智能安全研究，并與其他公司和政府分享這些工作成果。

聯(lián)合聲明中引用了微軟總裁 Brad Smith 的話：“創(chuàng)造人工智能技術的公司有責任確保它是安全、可靠且受人類控制的。這一倡議是讓科技界共同推進負責任的人工智能發(fā)展并應對挑戰(zhàn)的重要一步，以便它造福全人類。”

前沿模型論壇也歡迎更多從事前沿人工智能模型開發(fā)的公司加入該組織，只要他們也表現(xiàn)出對前沿模型安全的堅定承諾，包括通過技術和制度方面的方法。