近日，因安全團(tuán)隊(duì)核心人員離職而深陷信任危機(jī)的OpenAI發(fā)布了最新的安全報(bào)告，宣稱在過(guò)去三個(gè)月中挫敗了五個(gè)利用ChatGPT操控輿論的黑客組織APT行動(dòng)（輿論黑客）。

OpenAI將操控輿論的影響力活動(dòng)（IO）定義為“試圖以欺騙的方式操縱輿論或影響政治結(jié)果，而不揭露背后行為者的真實(shí)身份或意圖”。

在報(bào)告中，OpenAI宣稱成功識(shí)別并阻止了五起來(lái)自俄羅斯、伊朗和以色列等國(guó)的影響力行動(dòng)，這些行動(dòng)均利用了OpenAI的人工智能工具ChatGPT。

“輿論黑客”攻擊成效不及預(yù)期

輿論操控和內(nèi)容安全是人們最擔(dān)憂的兩大人工智能威脅，尤其是國(guó)家黑客組織利用ChatGPT-4o為代表的多模態(tài)大模型進(jìn)行大規(guī)模的，跨平臺(tái)、跨國(guó)界的意識(shí)形態(tài)滲透和社交媒體輿論操控。

據(jù)OpenAI報(bào)告，這些“輿論黑客”行動(dòng)主要利用人工智能生成大量社交媒體帖子和評(píng)論等文本內(nèi)容，同時(shí)還進(jìn)行了一些輔助性的工作，例如通過(guò)調(diào)試代碼來(lái)提高生產(chǎn)力。

但是，根據(jù)布魯金斯突破量表(Brookings Breakout Scale)的評(píng)估，這些“輿論黑客”行動(dòng)的評(píng)分均未超過(guò)2分，目前尚未取得顯著成效。

布魯金斯突破量表用1-6分來(lái)衡量影響力行動(dòng)的影響范圍，其中1分表示僅限于單個(gè)社區(qū)或平臺(tái)，6分則意味著引發(fā)了政策干預(yù)或其他具體行動(dòng)，例如暴力事件。2分意味著影響力行動(dòng)跨越了單個(gè)平臺(tái)中的多個(gè)社區(qū)，或者影響了多個(gè)平臺(tái)中的單個(gè)社區(qū)。

五大輿論黑客攻擊活動(dòng)

報(bào)告指出，雖然“輿論黑客”來(lái)自全球各地，但本質(zhì)上卻非常相似，主要利用ChatGPT為多平臺(tái)生成多語(yǔ)言版本的內(nèi)容（賬戶、文章、評(píng)論、標(biāo)簽等），以下為報(bào)告調(diào)查的五大“輿論黑客”行動(dòng)：

• “垃圾偽裝(Spamouflage)”。該行動(dòng)利用OpenAI的工具進(jìn)行代碼調(diào)試、社交媒體活動(dòng)研究，并用多種語(yǔ)言在X平臺(tái)、Medium和Blogspot發(fā)布內(nèi)容。
• 俄羅斯的“語(yǔ)法錯(cuò)誤(Bad Grammar)”。一個(gè)來(lái)自俄羅斯的新威脅組織，主要針對(duì)Telegram平臺(tái)的東歐和美國(guó)用戶。它也利用人工智能來(lái)調(diào)試用于運(yùn)行Telegram機(jī)器人的代碼，并用英語(yǔ)和俄語(yǔ)生成Telegram上的政治評(píng)論。
• 俄羅斯的“變形金剛(Doppelganger)”。這個(gè)俄羅斯組織利用人工智能在X平臺(tái)和9GAG上用五種歐洲語(yǔ)言發(fā)布評(píng)論，生成標(biāo)題，并將新聞文章翻譯、編輯并轉(zhuǎn)換成Facebook帖子。
• 伊朗的“國(guó)際虛擬媒體聯(lián)盟(IUVM)”。利用人工智能為其網(wǎng)站生成和翻譯文章、標(biāo)題和網(wǎng)站標(biāo)簽。
• 以色列的“零點(diǎn)禪(Zero Zeno)”行動(dòng)。由位于特拉維夫的政治營(yíng)銷和商業(yè)情報(bào)公司Stoic運(yùn)營(yíng)。Stoic利用OpenAI為Instagram、Facebook、X平臺(tái)和其他網(wǎng)站生成文章和評(píng)論。Meta公司最近在其“對(duì)抗性威脅報(bào)告”中也點(diǎn)名了Stoic。報(bào)告顯示，Meta刪除了與Stoic關(guān)聯(lián)的510個(gè)Facebook賬戶、32個(gè)Instagram賬戶、11個(gè)頁(yè)面和1個(gè)群組。Stoic的各個(gè)Instagram賬戶只有大約2000個(gè)關(guān)注者，F(xiàn)acebook頁(yè)面約有500個(gè)關(guān)注者，其Facebook群組的成員人數(shù)不足100人。

為了打擊人工智能的濫用，OpenAI在一份更詳細(xì)的報(bào)告中透露正在與傳媒、社交網(wǎng)站和科技行業(yè)合作伙伴合作，并利用輿論黑客的威脅活動(dòng)來(lái)設(shè)計(jì)更安全的用戶平臺(tái)。該公司還表示正在“投資于技術(shù)和團(tuán)隊(duì)，以識(shí)別和阻止惡意行為者，以及利用人工智能工具來(lái)幫助打擊濫用行為?！眻?bào)告并未進(jìn)一步詳細(xì)說(shuō)明OpenAI采取了哪些具體措施來(lái)阻止和打擊惡意行為者，

輿論黑客的四大攻擊趨勢(shì)

OpenAI在報(bào)告中透露，根據(jù)自身調(diào)查以及開(kāi)源社區(qū)的工作，發(fā)現(xiàn)輿論黑客使用（類似ChatGPT的）大語(yǔ)言模型進(jìn)行的隱蔽宣傳活動(dòng)呈現(xiàn)四大趨勢(shì)：

• 內(nèi)容生成：所有輿論黑客都利用OpenAI的服務(wù)生成大量文本（偶爾還包括圖像），并且語(yǔ)言錯(cuò)誤比僅靠人工操作者要少得多。
• 融合新舊：所有這些行動(dòng)都不同程度地使用了人工智能，但沒(méi)有一個(gè)行動(dòng)只使用人工智能。相反，人工智能生成的內(nèi)容只是他們發(fā)布的眾多內(nèi)容類型之一，其他類型包括更傳統(tǒng)的形式，例如手動(dòng)編寫(xiě)的文本或從互聯(lián)網(wǎng)上復(fù)制的模因。
• 偽造參與度（人氣）：OpenAI瓦解的一些活動(dòng)利用ChatGPT在社交媒體上營(yíng)造用戶參與熱度的假象。例如，用人工智能生成內(nèi)容回復(fù)或評(píng)論自己的帖子。
• 提高效率：許多輿論黑客都嘗試?yán)肅hatGPT來(lái)提高效率，例如總結(jié)社交媒體帖子或調(diào)試代碼。

輿論黑客的五大防御趨勢(shì)

OpenAI在報(bào)告中指出，雖然關(guān)于人工智能的潛在應(yīng)用的討論的大多關(guān)注攻擊側(cè)，但是人工智能也為防御者提供了優(yōu)勢(shì)。例如人工智能技術(shù)大大提高了OpenAI的調(diào)查效率，以下為人工智能提高內(nèi)容安全防御能力的五大趨勢(shì)：

• 防御設(shè)計(jì)：OpenAI通過(guò)內(nèi)容安全系統(tǒng)給攻擊者制造麻煩，這也是OpenAI負(fù)責(zé)任地部署人工智能的方法。例如，OpenAI多次觀察到ChatGPT拒絕生成輿論黑客要求的文本或圖像。
• 人工智能增強(qiáng)調(diào)查：OpenAI基于此前使用GPT-4進(jìn)行內(nèi)容審核和網(wǎng)絡(luò)防御的方法，又開(kāi)發(fā)了新人工智能工具來(lái)提高（用戶會(huì)話內(nèi)容的）檢測(cè)和分析效率。得益于新的工具，此次報(bào)告的調(diào)查耗時(shí)僅數(shù)天，而不是數(shù)周或數(shù)月。隨著模型的改進(jìn)，OpenAI將繼續(xù)利用其功能來(lái)改進(jìn)調(diào)查。
• 分發(fā)很重要：與傳統(tǒng)的內(nèi)容形式一樣，人工智能生成的內(nèi)容也必須進(jìn)行分發(fā)才能到達(dá)受眾。這些輿論操控行動(dòng)在各種平臺(tái)上發(fā)布內(nèi)容，包括X、Telegram、Facebook、Medium、Blogspot和較小的論壇，但截至調(diào)查結(jié)束沒(méi)有一個(gè)活動(dòng)成功吸引大量受眾。
• 行業(yè)共享的重要性：為了提高對(duì)輿論黑客行為的防御和反擊能力，OpenAI與業(yè)界同行分享了詳細(xì)的威脅指標(biāo)。OpenAI自己的調(diào)查也受益于研究社區(qū)多年來(lái)的開(kāi)源分析。
• 人為因素：人工智能可以改變?nèi)祟惒僮髡呤褂玫墓ぞ甙?，但它不?huì)改變操作者本身。OpenAI的調(diào)查表明，攻擊者與前幾代人一樣容易犯人為錯(cuò)誤。例如，（因?yàn)槭韬觯hatGPT的拒絕消息發(fā)布在社交媒體和他們的網(wǎng)站上。雖然攻擊工具在不斷進(jìn)化，但是黑客活動(dòng)的運(yùn)營(yíng)和決策者的人性弱點(diǎn)和局限性并沒(méi)有變。