揚(yáng)長(zhǎng)避短！CISO必須為ChatGPT安全應(yīng)用做好準(zhǔn)備
歷史經(jīng)驗(yàn)表明，即便開發(fā)者最初是出于善意的研發(fā)目的，但先進(jìn)的技術(shù)往往會(huì)不可避免地被用于很多負(fù)面、惡意的應(yīng)用場(chǎng)景中，OpenAI公司最新推出的ChatGPT聊天機(jī)器人自然也不例外。現(xiàn)代企業(yè)有很多機(jī)會(huì)可以利用ChatGPT技術(shù)，提升與客戶的互動(dòng)，尋找新的商業(yè)機(jī)會(huì)。但是在網(wǎng)絡(luò)安全界，也有越來越多的證據(jù)表明，這種基于AI的機(jī)器人服務(wù)很可能會(huì)成為網(wǎng)絡(luò)攻擊者們的強(qiáng)大工具。
客觀看待ChatGPT的安全影響
ChatGPT是一種非常有用的工具。它有非常強(qiáng)大的知識(shí)積累，可以將復(fù)雜主題化繁為簡(jiǎn)。對(duì)于希望使用該工具編寫惡意軟件代碼以發(fā)動(dòng)網(wǎng)絡(luò)攻擊的人來說，ChatGPT為編程技能或技術(shù)技能有限的威脅分子降低了準(zhǔn)入門檻。威脅分子只需初步了解網(wǎng)絡(luò)安全和計(jì)算機(jī)科學(xué)的基礎(chǔ)知識(shí)，它就能收到奇好的效果。
但是，對(duì)網(wǎng)絡(luò)安全建設(shè)者，ChatGPT也有很多積極用途，研究人員一直在積極試驗(yàn)ChatGPT的創(chuàng)新能力，并將網(wǎng)絡(luò)防御方面的很多人工事務(wù)實(shí)現(xiàn)自動(dòng)化，這對(duì)推動(dòng)新一代網(wǎng)絡(luò)安全防御技術(shù)發(fā)展大有前景。很顯然，這種工具同樣有助于為防御者提供幫助。
影響1
實(shí)現(xiàn)安全事件處置的自動(dòng)化（積極）
安全分析師收到警報(bào)后，首先需要提取相關(guān)數(shù)據(jù)源，以便確定這是不是真正的攻擊。這常常需要大量的手動(dòng)工作。相比之下，從安全信息和事件管理（SIEM）工具中獲取數(shù)據(jù)輸出并交給ChatGPT處理，可以迅速生成有關(guān)安全事件的分析報(bào)告。使用ChatGPT由數(shù)據(jù)生成報(bào)告可以比分析師人工分析更快地洞察事件情況。
由于安全攻擊不斷增長(zhǎng)，許多網(wǎng)絡(luò)安全專業(yè)人員的日常工作已經(jīng)不堪重負(fù)，雪上加霜的是，市場(chǎng)中長(zhǎng)期缺少技能嫻熟的安全專業(yè)人員。然而，ChatGPT有望使不堪重負(fù)的安全團(tuán)隊(duì)運(yùn)營(yíng)工作實(shí)現(xiàn)自動(dòng)化，同時(shí)有助于消除很多誤報(bào)信息干擾。
除了為安全運(yùn)營(yíng)團(tuán)隊(duì)的網(wǎng)絡(luò)事件分析引入自動(dòng)化功能外，ChatGPT還有望為測(cè)試網(wǎng)絡(luò)防御系統(tǒng)查找缺陷的滲透測(cè)試人員將一些工作實(shí)現(xiàn)自動(dòng)化。比如說，ChatGPT提供的惡意軟件開發(fā)功能還可以幫助白帽黑客。
影響2
彌補(bǔ)安全人員的知識(shí)鴻溝（積極）
ChatGPT有可能以更快的速度加深用戶對(duì)安全專業(yè)知識(shí)和技能的理解。這種聊天機(jī)器人能夠熟練地用高度相關(guān)的信息回答特定的問題，歸納為幾個(gè)段落或要點(diǎn)，這意味著相比傳統(tǒng)搜索引擎技術(shù)，ChatGPT常?？梢宰層脩舾斓亓私饽承﹩栴}，因此特別有利于那些希望深入了解網(wǎng)絡(luò)安全知識(shí)的人。由于ChatGPT能快速歸納復(fù)雜主題，這對(duì)推動(dòng)網(wǎng)絡(luò)安全行業(yè)發(fā)展非常重要，它可以讓非安全專業(yè)的企業(yè)高級(jí)管理者和董事會(huì)成員快速了解網(wǎng)絡(luò)安全相關(guān)內(nèi)容，從而獲得其對(duì)加強(qiáng)網(wǎng)絡(luò)安全建設(shè)工作的支持。
影響3
加快惡意軟件的開發(fā)（負(fù)面）
據(jù)CyberArk研究人員發(fā)布的研究結(jié)果顯示，ChatGPT工具可以用來開發(fā)極難被發(fā)現(xiàn)的惡意軟件（即多態(tài)惡意軟件），同時(shí)可用于以高級(jí)方式幫助惡意軟件程序開發(fā)，包括利用開源存儲(chǔ)庫(kù)中發(fā)現(xiàn)的惡意軟件代碼訓(xùn)練ChatGPT，以生成該代碼的獨(dú)特變體，從而逃避反病毒檢測(cè)機(jī)制。
此外，ChatGPT還可以用來生成用于分發(fā)的惡意軟件載荷本身，從而成為網(wǎng)絡(luò)攻擊的一部分。
實(shí)驗(yàn)表明，ChatGPT有能力生成多種類型的惡意軟件載荷，包括信息竊取器、遠(yuǎn)程訪問木馬和加密貨幣竊取器。對(duì)此，OpenAI的解釋是，當(dāng)用戶請(qǐng)求ChatGPT生成代碼時(shí)，ChatGPT的功能更像是搜索引擎，還無法進(jìn)行更復(fù)雜的合理性辨別和需求定制。
影響4
助長(zhǎng)網(wǎng)絡(luò)釣魚和社會(huì)工程攻擊（負(fù)面）
ChatGPT可以非常真實(shí)流暢地模仿人類寫作，這個(gè)特點(diǎn)使其有可能成為一種強(qiáng)大的網(wǎng)絡(luò)釣魚和社會(huì)工程工具，特別是當(dāng)威脅分子需要進(jìn)行跨語種的欺詐攻擊時(shí)，該工具有可能被用來更有效地分發(fā)惡意軟件。
研究人員測(cè)試ChatGPT后發(fā)現(xiàn)，由英語不流利的人撰寫的釣魚郵件中經(jīng)常出現(xiàn)明顯的問題，比如拼寫和語法錯(cuò)誤，或者濫用英語詞匯，而通過ChatGPT生成的郵件文本并不存在這類問題。因此研究人員認(rèn)為，攻擊者可以使用ChatGPT，更有效地分發(fā)竊取信息的惡意軟件、僵尸網(wǎng)絡(luò)模擬工具、遠(yuǎn)程訪問木馬以及勒索軟件可執(zhí)行文件等。
為ChatGPT應(yīng)用做好準(zhǔn)備
作為一種創(chuàng)新技術(shù)，企業(yè)組織在未來數(shù)字化發(fā)展中會(huì)有很多機(jī)會(huì)應(yīng)用ChatGPT或類似AI工具。CISO們需要為此提前做好應(yīng)對(duì)準(zhǔn)備，以避免可能出現(xiàn)的安全隱患。安全研究人員也提出了一些有益的措施和建議：
實(shí)施強(qiáng)身份驗(yàn)證協(xié)議，加大攻擊者訪問賬戶的難度。攻擊者已經(jīng)知道如何利用MFA疲勞攻擊來繞過現(xiàn)有的身份驗(yàn)證機(jī)制，因此，企業(yè)需要利用AI/機(jī)器學(xué)習(xí)技術(shù)實(shí)現(xiàn)無密碼應(yīng)用，這樣有助于提高企業(yè)的安全性，同時(shí)可以緩解MFA疲勞現(xiàn)象。
積極采用零信任模式。這樣即使攻擊者利用ChatGPT蒙蔽了一些缺乏戒備的內(nèi)部員工，他們?cè)谠L問關(guān)鍵數(shù)據(jù)和系統(tǒng)時(shí)，仍必須驗(yàn)證身份，而且即使驗(yàn)證了身份，也只能訪問有限的資源。讓所有員工僅擁有執(zhí)行工作所需的最低訪問權(quán)限，這可能會(huì)遇到一些阻力，但會(huì)使攻擊者更難利用任何未經(jīng)授權(quán)的訪問權(quán)限來獲利。
嚴(yán)格監(jiān)控公司賬戶活動(dòng)，使用包括垃圾郵件過濾器、行為分析和關(guān)鍵字過濾在內(nèi)的工具，以識(shí)別和阻止惡意郵件。基于郵件收發(fā)方的行為和關(guān)系而不是基于特定的關(guān)鍵字來監(jiān)測(cè)惡意郵件，更有可能成功阻止惡意分子。
比攻擊者更早利用AI。網(wǎng)絡(luò)攻擊者肯定會(huì)大量利用AI，而ChatGPT只是其中的一種手段。企業(yè)必須充分利用AI/機(jī)器學(xué)習(xí)提供的功能來改善網(wǎng)絡(luò)安全，并更快地響應(yīng)威脅和潛在攻擊。
加強(qiáng)全公司的安全意識(shí)教育，向所有員工宣講最新的網(wǎng)絡(luò)釣魚風(fēng)險(xiǎn)。如果員工充分了解ChatGPT工具如何被利用，面對(duì)聊天機(jī)器人及其他基于AI的工具時(shí)就可能更為謹(jǐn)慎，從而避免淪為這類攻擊的受害者。
參考鏈接：
??https://www.crn.com/news/security/5-big-pros-and-cons-of-chatgpt-for-cybersecurity??
