進入2024年，攻擊面將進一步擴大，威脅可能變得越來越難以捉摸。考慮到基于AI和大型語言模型的工具的功能和可訪問性越來越強，必須領(lǐng)先于威脅參與者幾步，并了解2024年將采取什么策略。

1.自定義類ChatGPT機器人：精心制作令人信服的社交攻擊

OpenAI的定制GPT是黑客將在2024年利用的強大新工具的主要例子，考慮到它們的易用性，那些技術(shù)水平低得多的人可以利用它們來設(shè)計和發(fā)動極具說服力的社交攻擊。

設(shè)想一個場景，攻擊者使用ChatGPT生成的文本偽裝成經(jīng)理或部門負(fù)責(zé)人，他們向毫無戒心的員工發(fā)送一個類似WhatsApp的應(yīng)用程序的鏈接，在該應(yīng)用程序中，他們將與GPT“經(jīng)理”進行對話，說服他們轉(zhuǎn)賬或分享敏感數(shù)據(jù)，以類似的方式，GenAI服務(wù)可以被用來指示受害者與GPT支持的“服務(wù)臺”或“IT代表”進行對話，這些欺騙性的攻擊在整個企業(yè)中已經(jīng)變得更加常見，并且只會隨著新的GenAI工具和功能的出現(xiàn)而增長。

僅依靠員工意識不足以識別和預(yù)防此類威脅，因此，必須優(yōu)先維護強大的安全協(xié)議。

2.SaaS應(yīng)用作為隱形攻擊載體：向TeamsPhisher學(xué)習(xí)

2024年，網(wǎng)絡(luò)犯罪分子將繼續(xù)利用現(xiàn)代SaaS應(yīng)用程序，將惡意有效負(fù)載嵌入云中，并利用低掛起的安全漏洞。隨著疫情的蔓延和遠程工作環(huán)境的興起，這些隱蔽的策略繼續(xù)在雷達下飛行，并在公司的防御中戳出漏洞。

就在今年夏天，威脅參與者使用一種名為TeamsPhisher的惡意開源程序，通過微軟團隊向毫無戒備的用戶發(fā)送釣魚誘餌，以實施隨后的網(wǎng)絡(luò)攻擊，包括勒索軟件攻擊，這突顯了SaaS應(yīng)用作為威脅參與者的無意幫兇的重要性。

公司應(yīng)該預(yù)料到，這種攻擊媒介的繼續(xù)存在是一個強大的網(wǎng)絡(luò)前沿，并相應(yīng)地加強他們的安全框架。

3.網(wǎng)絡(luò)攻擊戰(zhàn)役中AI驅(qū)動的自動化：未來一瞥

在開發(fā)人員和安全團隊手中，AI提高了生產(chǎn)率，簡化了眾多業(yè)務(wù)運營，但在威脅參與者手中，它可以被用來破壞公司的防御并提取敏感數(shù)據(jù)。

攻擊者準(zhǔn)備利用AI日益增長的自動化能力，以極高的效率和精確度識別云基礎(chǔ)設(shè)施中的漏洞，并準(zhǔn)確地開展惡意電子郵件活動。因此，盡管AI驅(qū)動的自動化可以減輕所有行業(yè)辦公室員工的大量工作量，但它賦予了威脅參與者同樣的奢侈品。

4.深度偽裝和多通道ML模型：欺騙的演變

停留在AI領(lǐng)域，多模式ML模型為攻擊者提供了生成令人信服的音頻、圖像和視頻的能力，以欺騙毫無戒心的員工。

隨著深度假冒活動在2023年增加了驚人的3000%，這項復(fù)雜的技術(shù)正被用來創(chuàng)建幾乎無法與合法信件區(qū)分開來的信件，同時也有更便宜、更容易使用的好處。

這種欺騙做法將繼續(xù)對無數(shù)公司構(gòu)成嚴(yán)重威脅，隨著這些模型的復(fù)雜性和制造能力的成熟，教育工作人員識別和報告企圖的違規(guī)和錯誤信息活動將變得至關(guān)重要。

5.防范LLM支持的服務(wù)中的敵意提示：創(chuàng)業(yè)前沿

隨著LLM支持的服務(wù)在整個公司工作流程中繼續(xù)激增，公司領(lǐng)導(dǎo)人將需要建立強大的保護，以抵御惡意即時注入 - LLM的輸入被設(shè)計為操縱輸出或改變標(biāo)準(zhǔn)處理程序。

不幸的是，公司出于垂直或特定于運營的培訓(xùn)目的而選擇將內(nèi)部數(shù)據(jù)輸入LLM的情況很容易暴露。通過輸入精心設(shè)計的提示，黑客可以操縱LLM泄露敏感數(shù)據(jù)，這可能會違反合規(guī)規(guī)定并被罰款，數(shù)據(jù)安全中的此類漏洞需要積極主動的解決方案。

因此，對于依賴LLM支持的服務(wù)的公司來說，在緩解這些挑戰(zhàn)方面的遠見卓識將是至關(guān)重要的，這將為一套新的解決方案奠定基礎(chǔ)，這些解決方案致力于防止敵對提示危及數(shù)據(jù)安全。

領(lǐng)先一步

隨著AI的不斷成熟，威脅格局也在不斷成熟，應(yīng)對AI系統(tǒng)帶來的網(wǎng)絡(luò)攻擊將是整個2024年的一個關(guān)鍵商業(yè)目標(biāo)。

通過部署工具和分層解決方案來識別和解決正在進行的打擊黑客的新戰(zhàn)線，公司將能夠領(lǐng)先于他們的數(shù)字對手一步。