在剛剛結(jié)束的慕尼黑安全大會期間，對技術(shù)（尤其是人工智能技術(shù)）的監(jiān)管、治理和使用是熱點話題之一。為了向來自世界各地的政府領(lǐng)導(dǎo)人展示捍衛(wèi)人工智能安全的決心和信心，谷歌、微軟和OpenAI三大人工智能巨頭推出了一系列的重大舉措和計劃。

在大會召開一天前，微軟和OpenAI發(fā)布了關(guān)于國家黑客組織對ChatGPT對抗性使用的研究報告，并承諾支持“安全和負責(zé)任”的人工智能使用。

隨后，大會期間，谷歌推出了一個人工智能防御綜合計劃，包括承諾投資“人工智能就緒基礎(chǔ)設(shè)施”，為防御者發(fā)布新工具，向教育系統(tǒng)提供研究補助金，啟動新的研究和人工智能安全培訓(xùn)等。谷歌表示：“這將有助于通過國際化戰(zhàn)略、人工智能工具及其使用技能來加強跨大西洋網(wǎng)絡(luò)安全生態(tài)系統(tǒng)。”

最令業(yè)界矚目的行動來自微軟和OpenAI，二者在本周發(fā)布聯(lián)合聲明，宣稱已經(jīng)終止了來自伊朗、朝鮮和俄羅斯等國的威脅行為者相關(guān)賬戶，并聲稱這些組織濫用ChatGPT從事以下活動：

• 調(diào)試代碼并生成腳本
• 創(chuàng)建可能用于網(wǎng)絡(luò)釣魚活動的內(nèi)容
• 翻譯技術(shù)論文
• 檢索有關(guān)漏洞和多個情報機構(gòu)的公開信息
• 研究惡意軟件逃避檢測的常見方式
• 對衛(wèi)星通信協(xié)議和雷達成像技術(shù)進行開源研究

不過，微軟在隨后的報告中表示ChatGPT對網(wǎng)絡(luò)攻擊的幫助有限：：“我們的研究結(jié)果表明，我們的模型（ChatGPT）僅為惡意網(wǎng)絡(luò)安全任務(wù)提供有限的增量功能?！?/p>

微軟和OpenAI還承諾確?！鞍踩拓撠?zé)任地使用”包括ChatGPT在內(nèi)的技術(shù)。微軟公布的原則包括：

• 識別惡意威脅行為者的使用并采取行動，例如禁用賬戶或終止服務(wù)。
• 通知其他人工智能服務(wù)提供商并共享相關(guān)數(shù)據(jù)。
• 與其他利益相關(guān)者就威脅行為者對人工智能的使用進行合作。
• 向公眾通報在其系統(tǒng)中檢測到的人工智能使用情況以及針對它們采取的措施。

對于國家黑客濫用AI的行為，OpenAI在公告中承諾將：

• 監(jiān)視和破壞惡意國家附屬行為者（使用其AI服務(wù)）。這包括確定惡意行為者如何與其平臺交互并評估更廣泛的意圖。
• 與“AI生態(tài)系統(tǒng)”合作。分享有關(guān)國家附屬惡意行為者使用人工智能的性質(zhì)、程度，提高針對他們采取的反制措施的公開透明度。

谷歌則在最新發(fā)布的威脅情報公告中指出，進攻性網(wǎng)絡(luò)能力現(xiàn)在是地緣政治的首要任務(wù)，全球網(wǎng)絡(luò)攻擊威脅呈現(xiàn)以下趨勢：

• 攻擊者正在不斷提升專業(yè)化操作和程序
• 進攻性網(wǎng)絡(luò)能力現(xiàn)在是地緣政治的首要任務(wù)
• 威脅行為者的最新策略經(jīng)常能逃避標(biāo)準(zhǔn)安全控制
• 俄烏戰(zhàn)爭的事態(tài)發(fā)展標(biāo)志著網(wǎng)絡(luò)戰(zhàn)首次在戰(zhàn)爭中發(fā)揮了重要作用
• 對手國家在進攻性和防御性人工智能方面投入巨資，開發(fā)更復(fù)雜的網(wǎng)絡(luò)釣魚、短信和其他誘餌工具、從事個人數(shù)據(jù)和知識產(chǎn)權(quán)盜竊，制造虛假新聞和深度偽造內(nèi)容，將人工智能用于社會工程和信息操作。