我們可以利用人工智能的優(yōu)勢(shì)，同時(shí)防范其潛在的陷阱，從人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)釣魚計(jì)劃，到超逼真的深度偽造。因此，保護(hù)企業(yè)的關(guān)鍵是了解這些新威脅。

人工智能的網(wǎng)絡(luò)威脅和挑戰(zhàn)

雖然人工智能的好處可以為企業(yè)提供幫助，但也為組織必須承認(rèn)的額外網(wǎng)絡(luò)挑戰(zhàn)和風(fēng)險(xiǎn)打開了大門。這些新的風(fēng)險(xiǎn)和策略包括:

由人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)釣魚詐騙：狡猾的網(wǎng)絡(luò)犯罪分子利用人工智能驅(qū)動(dòng)的聊天機(jī)器人來創(chuàng)建完美的網(wǎng)絡(luò)釣魚電子郵件，而不會(huì)出現(xiàn)語法錯(cuò)誤等常見的危險(xiǎn)信號(hào)，甚至?xí)米罹璧娜?。為了增?qiáng)防御，請(qǐng)謹(jǐn)慎對(duì)待來自陌生來源的電子郵件。仔細(xì)檢查發(fā)件人詳細(xì)信息，避免可疑鏈接，并使用反網(wǎng)絡(luò)釣魚工具來增強(qiáng)保護(hù)。

人工智能生成的惡意代碼：網(wǎng)絡(luò)犯罪分子利用人工智能工具快速生成代碼，超越了手動(dòng)能力。這些生成的代碼片段會(huì)進(jìn)入惡意軟件和其他惡意軟件。通過防火墻、防病毒軟件、自動(dòng)補(bǔ)丁管理和員工教育等分層安全措施加強(qiáng)防御。

深度偽造和冒充：人工智能生成的深度偽造可能會(huì)傳播錯(cuò)誤信息，欺騙毫無戒心的個(gè)人，并導(dǎo)致欺詐或人格誹謗。惡意行為者可以使用他人的聲音和圖像樣本創(chuàng)建超逼真的視頻。識(shí)別深度偽造需要一雙敏銳的眼睛。除其他因素外，皮膚紋理、眨眼模式和面部陰影的異常，有助于區(qū)分真實(shí)內(nèi)容和被操縱的內(nèi)容。

NIST發(fā)出警告

早些時(shí)候，美國國家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)與行業(yè)合作者一起警告了另一種類型的人工智能網(wǎng)絡(luò)風(fēng)險(xiǎn)，即對(duì)抗性機(jī)器學(xué)習(xí)威脅。

其指出，惡意行為者可能會(huì)試圖故意混淆甚至毒害人工智能系統(tǒng)，使其發(fā)生故障或無法正常工作。例如，惡意行為者可能會(huì)嘗試通過引入損壞的數(shù)據(jù)來破壞模型的訓(xùn)練。

另一個(gè)潛在的風(fēng)險(xiǎn)是逃避攻擊，即有人試圖改變?nèi)斯ぶ悄芟到y(tǒng)在部署后的工作方式。舉個(gè)例子，制造令人困惑的車道標(biāo)記，讓自動(dòng)駕駛汽車駛離道路。

應(yīng)對(duì)人工智能網(wǎng)絡(luò)威脅

傳統(tǒng)的網(wǎng)絡(luò)技術(shù)和實(shí)踐，例如防火墻和防病毒解決方案，不足以應(yīng)對(duì)新的人工智能網(wǎng)絡(luò)威脅。網(wǎng)絡(luò)安全是一種心態(tài)，主動(dòng)選擇合適的IT合作伙伴是第一步。

擁有傳統(tǒng)網(wǎng)絡(luò)安全培訓(xùn)和認(rèn)證的企業(yè)必須跟上新威脅，例如上述人工智能威脅，以及應(yīng)對(duì)這些威脅的新技術(shù)。

在這些領(lǐng)域提供幫助的認(rèn)證包括認(rèn)證道德黑客(CEH)、認(rèn)證信息安全經(jīng)理(CISM)、認(rèn)證信息系統(tǒng)安全專家(CISSP)和認(rèn)證信息安全審核員(CISA)。此外，還需要有獲得Amazon、Azure和Oracle云和安全認(rèn)證的人員。解決復(fù)雜性并獲得所需專業(yè)知識(shí)的一種快速方法，是通過合作伙伴利用人才庫。

總結(jié)

人工智能的日益廣泛使用代表了兩種截然不同的網(wǎng)絡(luò)安全挑戰(zhàn)。人工智能使惡意行為者能夠使用強(qiáng)大的工具和方法來開發(fā)攻擊企業(yè)網(wǎng)絡(luò)的新技術(shù)。這些工具還可用于進(jìn)行日益復(fù)雜且難以檢測(cè)的社會(huì)工程攻擊，從而更容易誘騙員工采取使組織暴露于問題的行動(dòng)。

此外，使用人工智能需要改變系統(tǒng)，如果實(shí)施不仔細(xì)，可能會(huì)引入新的漏洞。

最重要的是，企業(yè)需要意識(shí)到人工智能帶來了新的安全挑戰(zhàn)，保護(hù)組織的最佳方法是采取強(qiáng)大的安全態(tài)勢(shì)。