過去幾年中，盡管企業(yè)在網(wǎng)絡(luò)安全解決方案方面投入巨資，網(wǎng)絡(luò)犯罪造成的經(jīng)濟損失卻逐年上升。根據(jù)Cybersecurityventures的報告，2024年全球網(wǎng)絡(luò)犯罪造成的損失將超過10萬億美元，成為全球“第三大經(jīng)濟體”。

近年來黑客活動向“基于身份的攻擊”轉(zhuǎn)型，2024年用于竊取身份、憑據(jù)和隱私的社會工程攻擊，尤其是網(wǎng)絡(luò)釣魚和商業(yè)電子郵件入侵(BEC)將是企業(yè)安全團隊的頭號威脅。根據(jù)Verizon的數(shù)據(jù)泄露報告，82%的數(shù)據(jù)泄露事件涉及社會工程攻擊。KnowBe4的調(diào)查顯示，2023年，70%的員工至少經(jīng)歷過一次網(wǎng)絡(luò)釣魚攻擊。

過去三年，一些最重大的網(wǎng)絡(luò)安全事件往往始于社會工程攻擊：

• 2021年，Colonial Pipeline遭到勒索軟件攻擊，導(dǎo)致美國東海岸汽油供應(yīng)中斷。攻擊者通過網(wǎng)絡(luò)釣魚電子郵件獲得了員工的登錄憑據(jù)，從而進入公司網(wǎng)絡(luò)。
• 2022年，微軟遭到SolarWinds供應(yīng)鏈攻擊。攻擊者通過向SolarWinds客戶發(fā)送惡意軟件更新，在全球范圍內(nèi)感染了數(shù)千個組織。
• 2023年，Uber遭到數(shù)據(jù)泄露。攻擊者通過社會工程攻擊獲得了員工的登錄憑據(jù)，從而竊取了公司7700萬用戶的數(shù)據(jù)。

社會工程攻擊利用的是人性心理而非技術(shù)漏洞，因此具有隱蔽性和難以通過純技術(shù)手段防御的特點。除了加強員工安全意識培訓(xùn)、實施MFA和零信任方法外，企業(yè)還必須積極創(chuàng)新，擁抱主動防御方法，從根本上扭轉(zhuǎn)在社會工程攻擊中所處的不利局面。

安全意識創(chuàng)新方法勢在必行

為應(yīng)對這些挑戰(zhàn)，越來越多的企業(yè)安全團隊轉(zhuǎn)向采用創(chuàng)新策略來加強社會工程攻擊防御能力。作為對抗社會工程攻擊最重要的措施，安全意識培訓(xùn)的重要性日益凸顯，Sage的調(diào)查顯示，投資安全意識計劃可以將修復(fù)漏洞的時間縮短82%。但值得注意的是，依然有超過半數(shù)的CISO對安全意識培訓(xùn)的效果并不滿意。

在人工智能快速武器化的今天，安全意識培訓(xùn)本身也正面臨一場技術(shù)革命，人工智能大型語言模型(LLM)有望成為安全意識培訓(xùn)創(chuàng)新的關(guān)鍵催化劑，徹底改變甚至逆轉(zhuǎn)社會工程攻擊的攻防態(tài)勢。

例如，LLM可以生成模仿網(wǎng)絡(luò)釣魚電子郵件的通信內(nèi)容，但其目的是教育用戶識別此類攻擊的標(biāo)志，將模擬攻擊轉(zhuǎn)化為實時學(xué)習(xí)機會。此外，LLM可以訓(xùn)練識別網(wǎng)絡(luò)犯罪分子使用的語言和策略模式，從而及時預(yù)測并阻止攻擊。LLM還可以分析社會工程攻擊者不斷變化的策略，幫助制定欺詐反制措施，誤導(dǎo)攻擊者、浪費他們的資源并最終阻止他們實現(xiàn)惡意目標(biāo)。

將人工智能LLM集成到網(wǎng)絡(luò)安全策略中是企業(yè)從被動防御機制向主動防御機制的范式轉(zhuǎn)變。通過針對社會工程攻擊的心理基礎(chǔ)分析，企業(yè)可以破壞這些攻擊的有效性，不僅通過技術(shù)手段，還可“以彼之道還施彼身”，利用攻擊者所利用的認(rèn)知偏差。

黑客機器人：從被動防御到主動出擊

美國國會技術(shù)大學(xué)的Mary Aiken和Diane Janosek以及應(yīng)用研究協(xié)會的Michael Lundie、Adam Amos-Binks和Kira Lindke在最新研究論文中提出了“黑客機器人”（Hackbot）的進攻性防御策略。

“黑客機器人”的實驗設(shè)計

該論文題為“企業(yè)反擊：構(gòu)想黑客機器人-在網(wǎng)絡(luò)防御環(huán)境中逆轉(zhuǎn)社會工程攻擊”（標(biāo)題致敬了星球大戰(zhàn)的“帝國反擊戰(zhàn)”），提出了“黑客機器人”的概念-一種自動反擊的創(chuàng)新方法，專門用于在網(wǎng)絡(luò)防御環(huán)境中反擊社會工程攻擊。

論文作者指出，網(wǎng)絡(luò)防御正從被動轉(zhuǎn)向主動，研究人員正在評估“是否可以將破壞性的認(rèn)知技術(shù)應(yīng)用于攻擊者的認(rèn)知限制和認(rèn)知偏差”。類似地，英國國家網(wǎng)絡(luò)部隊(NCF)最近的一份報告也介紹了英國如何采取一種新的方式進行進攻性網(wǎng)絡(luò)行動，重點破壞信息環(huán)境。

這種方法引入了“認(rèn)知效應(yīng)”學(xué)說，旨在通過利用對數(shù)字技術(shù)的依賴來對抗敵對行為。因此，進攻性網(wǎng)絡(luò)行動可以限制對手收集、分發(fā)和信任信息的能力。

“黑客機器人”的概念強調(diào)網(wǎng)絡(luò)安全既涉及技術(shù)因素也涉及人類心理，理解網(wǎng)絡(luò)攻擊的人為因素對于有效防御至關(guān)重要，并列舉了網(wǎng)絡(luò)犯罪分子的十個心理漏洞，“黑客機器人”可以利用這些漏洞來建立相應(yīng)的反擊模式。這些漏洞包括：

• 信任偏差
• 在線去抑制
• 沖動
• 冒險
• 認(rèn)知超負(fù)荷
• 尋求獎勵
• 性變態(tài)
• 黑暗人格特質(zhì)
• 情感屬性
• 注意力隧道效應(yīng)

根據(jù)研究論文，“黑客機器人”的任務(wù)是生成可以在社會工程攻擊框架中使用的文本。這需要理解特定攻擊類型的背景，能夠處理各種不同的攻擊，并生成符合攻擊者目標(biāo)的對話?？梢允褂妙A(yù)訓(xùn)練的LLM，并使用真實世界的社會工程攻擊事件報告對其進行微調(diào)。LLM非常適合這項任務(wù)，因為開源LLM易于獲取，只需要相對較少的下游任務(wù)示例，并且可以輕松適應(yīng)新的環(huán)境。

“黑客機器人”的目標(biāo)是成為社會工程攻擊的“蜜罐”，讓攻擊者參與長時間的欺騙性互動，分散注意力并消耗資源，并專門設(shè)計用于在網(wǎng)絡(luò)防御環(huán)境中逆轉(zhuǎn)社會工程攻擊。

在網(wǎng)絡(luò)犯罪的軍備競賽中，心理反擊策略是逆轉(zhuǎn)社會工程攻防態(tài)勢的關(guān)鍵一步。隨著網(wǎng)絡(luò)威脅變得越來越復(fù)雜，針對攻擊者的心理漏洞，利用人工智能大語言模型通過“心理戰(zhàn)”反擊社會工程攻擊，為網(wǎng)絡(luò)安全領(lǐng)域開辟了新的前沿陣地。該方法不僅增強了現(xiàn)有的防御措施，而且還為企業(yè)建立更具適應(yīng)性、智能化和更高效的網(wǎng)絡(luò)安全態(tài)勢鋪平了道路。