如今，大多數(shù)網(wǎng)絡(luò)攻擊主要使用兩種方法：數(shù)據(jù)泄露和數(shù)據(jù)加密。這些策略被證明是有效的，因?yàn)楣粽呖梢酝ㄟ^威脅發(fā)布泄露的數(shù)據(jù)或要求支付解密費(fèi)用來勒索錢財。這些攻擊雖有惡意，但程度有限。他們的目標(biāo)通常不是給人們造成重大傷害，但也有攻擊者走得更遠(yuǎn)的情況。

在現(xiàn)代網(wǎng)絡(luò)戰(zhàn)中，真正新穎和有創(chuàng)意的方式非常罕見。一個值得注意的例子是Stuxnet惡意軟件，這是一種自主蠕蟲，它破壞了伊朗用于加工鈾的機(jī)器。還有在2015年和2016年針對烏克蘭變電站的網(wǎng)絡(luò)攻擊中所部署的BlackEnergy和Industrioyer惡意軟件，導(dǎo)致了大停電。這些事態(tài)發(fā)展突顯了網(wǎng)絡(luò)威脅演變的性質(zhì)，一些攻擊開始在現(xiàn)實(shí)世界中造成物理后果。最近，由于網(wǎng)絡(luò)攻擊，Clorox產(chǎn)品出現(xiàn)短缺。

還有另一個數(shù)據(jù)：我們見證了因網(wǎng)絡(luò)攻擊而對工業(yè)和關(guān)鍵基礎(chǔ)設(shè)施造成物理損害的案例顯著增加。自2020年以來，此類攻擊頻率每年翻一番，與前十年僅有15起攻擊形成鮮明對比。然而，這些物理影響通常不是來自創(chuàng)新的攻擊，而是來自于使物理過程中不可或缺的機(jī)器喪失功能的通用加密技術(shù)。

具有物理后果的攻擊：2023年威脅報告–OT網(wǎng)絡(luò)攻擊及其物理后果。

生成式AI如何改變攻擊

在電影小說中，我們經(jīng)常看到人工智能執(zhí)行令人印象深刻的任務(wù)，從操縱紅綠燈到加速火車速度。這其中的大部分是為人類而虛構(gòu)的，是娛樂而非現(xiàn)實(shí)，所以我們知道當(dāng)網(wǎng)絡(luò)安全崩潰時，我們能夠想到什么。如果人工智能完全控制環(huán)境中的網(wǎng)絡(luò)，比如建筑管理系統(tǒng)，它能做些什么?

為了探索這一點(diǎn)，我們與一個生成式AI模型進(jìn)行了對話，討論了一個假設(shè)的水處理廠可能發(fā)生的攻擊場景，該廠配備了工業(yè)控制和通用部署。雖然它的許多反應(yīng)在意料之中，但有些反應(yīng)非常準(zhǔn)確，比如注入虛假數(shù)據(jù)。問題是，一旦攻擊者對他們希望實(shí)現(xiàn)的影響有了基本的想法，他們就可以利用生成式AI作為研究助手，以非常有效的方式進(jìn)一步開發(fā)。

對于工業(yè)系統(tǒng)的攻擊帶來的潛在危害，來自ChatGPT的回復(fù)如下：

1.基礎(chǔ)設(shè)施損壞:

• 渦輪機(jī)過載：通過操縱HMI，攻擊者可能會導(dǎo)致渦輪機(jī)運(yùn)行在不安全的轉(zhuǎn)速或不適當(dāng)?shù)墓r下，從而導(dǎo)致設(shè)備損壞或故障。
• 壓力波動：操縱系統(tǒng)突然產(chǎn)生壓力變化，這可能會損壞管道和其它基礎(chǔ)設(shè)施。
• 溢出：儲罐或蓄水池可能溢出，造成水災(zāi)和潛在的設(shè)備損壞。

2.運(yùn)營中斷:

• 錯誤的數(shù)據(jù)注入：攻擊者可以向HMI提供錯誤的數(shù)據(jù)，從而導(dǎo)致運(yùn)行人員做出錯誤決策。
• 關(guān)閉：攻擊者可以關(guān)閉部分或整個工廠，破壞水處理過程，進(jìn)而導(dǎo)致水資源短缺。
• 改變設(shè)定值：改變操作設(shè)定值可能使工廠的運(yùn)行效率低下，增加成本，并可能導(dǎo)致處理不徹底。

著名網(wǎng)絡(luò)安全專家Robert M.Lee在其開創(chuàng)性論文《工業(yè)控制系統(tǒng)網(wǎng)絡(luò)殺傷鏈》中，詳細(xì)描述了運(yùn)營技術(shù)網(wǎng)絡(luò)攻擊階段。在這篇論文中，他將對工業(yè)控制系統(tǒng)的攻擊分為兩個不同的階段。第一階段與熟悉的信息技術(shù)(IT)攻擊方法密切相關(guān)，并在更專業(yè)的第二階段達(dá)到高潮，這是專門針對OT入侵的。

ICS殺傷鏈?zhǔn)纠旱?階段為藍(lán)色，第2階段為黃色。圖片來源：WATERFALL SECURITY

生成式AI顯著改變了最初的妥協(xié)階段，該階段主要針對人類的脆弱性。這包括從語音克隆到精心制作有說服力的釣魚電子郵件等各種策略。然而，進(jìn)攻性AI真正未開發(fā)的潛力出現(xiàn)在第二階段。

在這些OT場景中，攻擊者經(jīng)常遇到設(shè)計適合不同運(yùn)營環(huán)境的有效攻擊手段的挑戰(zhàn)，尤其是那些需要協(xié)調(diào)可編程邏輯控制器(PLC)和其它適合特定物理過程服務(wù)器的有效攻擊。雖然許多攻擊者可以繞過傳統(tǒng)防御，但在遇到水處理或制造等專業(yè)領(lǐng)域時，他們往往會功虧一簣。

生成式AI有希望重塑這一動態(tài)，為攻擊者提供生產(chǎn)復(fù)雜、自適應(yīng)有效攻擊方法的能力。這可能包括能損壞機(jī)器或危及人類生命的代碼。在李的論文中，“低置信度設(shè)備效應(yīng)”等行為將從難以執(zhí)行轉(zhuǎn)變?yōu)橄鄬唵?。從本質(zhì)上講，由于生成式人工智能，第二階段攻擊規(guī)模的整個格局發(fā)生了根本性的變化。

安全工程是我們對抗AI的新安全網(wǎng)嗎?

AI的民主化將使防御系統(tǒng)錯誤配置和證書被盜變得更為復(fù)雜。在OT中系統(tǒng)，第二階段的風(fēng)險甚至更高。加密文件與銷毀機(jī)器有很大不同。傳統(tǒng)的防御系統(tǒng)很容易被繞過，可能無法應(yīng)對這些新出現(xiàn)的威脅。當(dāng)然，也不是完全沒有希望。

工程專業(yè)擁有強(qiáng)大的工具來抵消AI帶來的OT網(wǎng)絡(luò)風(fēng)險。例如，機(jī)械過壓閥可以防止壓力容器爆炸。由于這些系統(tǒng)沒有CPU，它們不會受到黑客的攻擊。類似地，扭矩限制離合器可以保護(hù)渦輪機(jī)免受損壞，單向網(wǎng)關(guān)利用光學(xué)系統(tǒng)，防止攻擊信息在某個方向上通過。這些工具由于缺乏IT安全對應(yīng)工具而經(jīng)常被忽視，但一切都在變化，可能它們很快就會變得不可或缺。

隨著AI的不斷發(fā)展，IT與OT系統(tǒng)的融合，再加上創(chuàng)造可能危及人類安全或關(guān)鍵基礎(chǔ)設(shè)施的富有想象力的有效攻擊，工業(yè)企業(yè)需要萬無一失的防御措施。這些基于物理元素的防御措施，即使是最先進(jìn)的AI也無法攻擊，可以確保我們在日益數(shù)字化的世界中保持安全。也許，在未來的幾年里，它們甚至可以阻止最先進(jìn)的AI系統(tǒng)。