網(wǎng)絡(luò)威脅聯(lián)盟 (CTA) 的最新報(bào)告得出結(jié)論，GenAI幫助降低了惡意行為者的入門門檻，并提高了他們的效率，即更快地創(chuàng)建令人信服的深度偽造內(nèi)容、發(fā)起網(wǎng)絡(luò)釣魚攻擊和投資詐騙。

不過，就目前而言，它并沒有讓攻擊者變得“更聰明”，也沒有徹底改變網(wǎng)絡(luò)威脅。

惡意行為者如何使用GenAI

該報(bào)告基于 CTA 成員可獲得的數(shù)據(jù)和實(shí)證案例研究，解釋了攻擊者目前使用GenAI的幾個(gè)方面：

• 創(chuàng)建深度偽造視頻和欺騙性圖像、克隆特定聲音的錄音、編寫高度逼真的電子郵件、信息和網(wǎng)站內(nèi)容
• 輔助創(chuàng)建惡意軟件(但無法在沒有額外人為輸入和調(diào)整的情況下創(chuàng)建惡意軟件)
• 優(yōu)化命令和控制操作(例如，用于管理僵尸網(wǎng)絡(luò))
• 傳播錯(cuò)誤信息和虛假信息(例如，以推動(dòng)網(wǎng)絡(luò)陰謀論、影響選舉活動(dòng))
• 創(chuàng)建由AI控制的虛假社交媒體賬戶網(wǎng)絡(luò)(機(jī)器人農(nóng)場)

分析人員發(fā)現(xiàn)，“雖然AI創(chuàng)新無疑具有強(qiáng)大功能，但到目前為止，它們只是逐步提升了對(duì)手的能力，并沒有創(chuàng)造出全新的威脅。”

挫敗AI增強(qiáng)的威脅

迄今為止，基礎(chǔ)的網(wǎng)絡(luò)安全實(shí)踐——定期軟件更新、多因素身份驗(yàn)證、離線數(shù)據(jù)備份、終端監(jiān)控、行為分析等——對(duì)于抵御所有威脅(包括那些由AI增強(qiáng)的威脅)仍然至關(guān)重要。

但對(duì)抗后者還需要結(jié)合技術(shù)解決方案(如深度偽造檢測(cè)器)以及更為重要的持續(xù)教育、獲取特定技能(如知道如何進(jìn)行事實(shí)核查、反向圖像搜索、驗(yàn)證元數(shù)據(jù)等)和鼓勵(lì)批判性思維。

CTA 分析師切爾西·康納德指出：“企業(yè)應(yīng)強(qiáng)調(diào)以內(nèi)容分析為重點(diǎn)的培訓(xùn)，并培養(yǎng)一種健康懷疑的文化。應(yīng)鼓勵(lì)員工提出諸如‘是我發(fā)起的這個(gè)請(qǐng)求嗎?’或‘這次通信與之前的交流一致嗎?’等問題?！?/p>

“其他防御措施可以依賴于技術(shù)和流程相結(jié)合的措施。技術(shù)工具可以分析內(nèi)容是否被篡改，例如音頻不匹配。當(dāng)這些工具不足時(shí)，企業(yè)可以依賴基于流程的措施，包括多渠道驗(yàn)證、雙重審批或預(yù)先安排的認(rèn)證短語，以提供關(guān)鍵保障?！?/p>

好消息是，對(duì)手對(duì)GenAI的使用尚未達(dá)到炒作的程度，如果企業(yè)和機(jī)構(gòu)行動(dòng)迅速，他們可以部署防御措施來阻止大多數(shù)由AI增強(qiáng)的威脅。