四家公司組成了一個新的聯(lián)盟，旨在促進(jìn)負(fù)責(zé)任的人工智能(AI)開發(fā)，并在面臨越來越多的政府和社會審查時建立行業(yè)標(biāo)準(zhǔn)。

OpenAI網(wǎng)站上的一份聲明寫道：“Anthropic、谷歌、微軟和OpenAI宣布成立前沿模型論壇，這是一個新的行業(yè)機(jī)構(gòu)，專注于確保安全、負(fù)責(zé)任地開發(fā)前沿人工智能模型?！甭暶鞣Q，為了“整個人工智能生態(tài)系統(tǒng)”的利益，前沿模型論壇將利用其成員公司的技術(shù)和運營專業(yè)知識。該小組尋求推進(jìn)技術(shù)標(biāo)準(zhǔn)，包括基準(zhǔn)和評估，并開發(fā)一個解決方案的公共資源庫。

聯(lián)盟的核心目標(biāo)包括：

推進(jìn)人工智能安全研究，促進(jìn)前沿模型的負(fù)責(zé)任開發(fā)，最大限度地降低風(fēng)險，并實現(xiàn)對能力和安全的獨立、標(biāo)準(zhǔn)化評估。

確定負(fù)責(zé)開發(fā)和部署前沿模型的最佳實踐，幫助公眾了解技術(shù)的性質(zhì)、能力、局限性和影響。

與政策制定者、學(xué)者、民間社會和公司合作，分享有關(guān)信任和安全風(fēng)險的知識。

支持開發(fā)有助于應(yīng)對社會最大挑戰(zhàn)的應(yīng)用程序，如減緩和適應(yīng)氣候變化、早期癌癥檢測和預(yù)防以及應(yīng)對網(wǎng)絡(luò)威脅。

論壇將“前沿模型”描述為大規(guī)模機(jī)器學(xué)習(xí)模型，在完成各種任務(wù)方面優(yōu)于當(dāng)前頂級模型的能力。

該組織計劃解決負(fù)責(zé)任的人工智能開發(fā)問題，重點關(guān)注三個關(guān)鍵領(lǐng)域：確定最佳實踐、推進(jìn)人工智能安全研究以及促進(jìn)商業(yè)企業(yè)和政府之間的信息共享。論壇將協(xié)調(diào)研究，在對抗性、穩(wěn)健性、機(jī)制可解釋性、可擴(kuò)展監(jiān)督、獨立研究訪問、緊急行為和異常檢測等領(lǐng)域推進(jìn)這些工作。

列出的其他未來行動包括成立一個咨詢委員會來指導(dǎo)該聯(lián)盟的戰(zhàn)略和優(yōu)先事項，以及與一個工作組和執(zhí)行委員會一起組建章程、治理和資金等機(jī)構(gòu)。論壇表示支持現(xiàn)有的行業(yè)努力，如人工智能伙伴關(guān)系(Partnership on AI)和機(jī)器學(xué)習(xí)聯(lián)盟(MLCommons)，并計劃與民間社會和政府就“有意義的合作方式”進(jìn)行協(xié)商。

盡管該聯(lián)盟只有四個成員，但它對那些積極開發(fā)和實施這些前沿模式、通過技術(shù)和體制手段對其安全表現(xiàn)出堅定承諾、并準(zhǔn)備根據(jù)成員要求清單，通過積極參與聯(lián)合倡議來推進(jìn)論壇目標(biāo)的組織持開放態(tài)度。

該組織寫道：“論壇歡迎符合其他標(biāo)準(zhǔn)組織加入，并在確保安全和負(fù)責(zé)任地開發(fā)前沿人工智能模型方面進(jìn)行合作?！?/p>

不過有批評人士表示，主要人工智能參與者的這些自我監(jiān)管嘗試可能會創(chuàng)造新一代的技術(shù)壟斷。

未來，政府和人工智能創(chuàng)新者之間需要持續(xù)深入的接觸。人工智能將影響生活和社會的方方面面，任何如此全面的技術(shù)，政府都必須發(fā)揮作用，保護(hù)大眾免受意外后果的影響，并圍繞這些新創(chuàng)新創(chuàng)造的重要問題建立一個單一的真相來源，包括安全人工智能的實際參數(shù)。

從長遠(yuǎn)來看，需要將道德置于人工智能的中心，加深和維持對一定的減速帶，并最終確保人工智能成為一股向善的力量。這還包括確保法規(guī)不會削弱競爭，產(chǎn)生新一代技術(shù)壟斷。同時需要邀請所有人工智能社區(qū)負(fù)責(zé)任地參與這一社會變革。