[[379153]]

【51CTO.com快譯】研究表明，人工智能技術(shù)為各行業(yè)組織的業(yè)務帶來了巨大的發(fā)展?jié)摿?，但同時也帶來了威脅和風險。如果某人或某個組織通過人工智能技術(shù)獲得不當?shù)睦婊蜻`法犯罪，那么人工智能技術(shù)就是他們手中的武器，并會產(chǎn)生各種威脅。人工智能技術(shù)在安全方面并不完全是壞消息。例如人工智能在網(wǎng)絡監(jiān)控和分析方面非常有效。

人工智能如今已經(jīng)成為一個熱門話題，關于人工智能的用途以及可能帶來風險的誤解和困惑也越來越多。一方面，文學作品和電影幾十年來將人工智能技術(shù)描繪成為反烏托邦式的全能機器人。另一方面，許多人了解人工智能在加快人類社會發(fā)展的潛力。盡管計算機系統(tǒng)可以學習、推理以及采取行動，但這些行為仍處于早期階段。機器學習(ML)需要學習大量數(shù)據(jù)，并根據(jù)人類分配給人工智能的功能轉(zhuǎn)化為訓練或指導。而允許人工智能訪問信息并給予其充分的自治權(quán)會帶來嚴重的風險，必須得到控制。

人工智能的主要風險與其創(chuàng)造者有著內(nèi)在的聯(lián)系。由于人類會犯錯誤或有偶然的偏差，或者說，程序員的粗心或數(shù)據(jù)的錯誤可能會使人工智能系統(tǒng)產(chǎn)生一系列的錯誤。人工智能系統(tǒng)的不當設計還可能導致計算系統(tǒng)的規(guī)模過大或過小，從而導致人工智能系統(tǒng)做出不必要的決策或陷入停頓。而采用諸如人工監(jiān)督的控制系統(tǒng)并嚴格測試人工智能系統(tǒng)可以在設計階段降低這些風險。因此必須對計算系統(tǒng)的決策能力進行測量和評估，以確認是否可以快速解決偏差或可疑決策，并在必要時予以糾正。盡管所描述的人工智能的風險是基于無意的錯誤以及設計和實施中的缺陷造成的，但是如果個人或組織利用人工智能系統(tǒng)作惡的話，人工智能就像罪犯手中的武器一樣帶來更多的威脅。

網(wǎng)絡犯罪分子可能比人們想象的更容易地使用人工智能技術(shù)，并“訓練”人工智能系統(tǒng)為其獲利。他們可以操縱輸入計算機的數(shù)據(jù)集(數(shù)據(jù)中毒)以“訓練”人工智能，甚至對控制參數(shù)進行更改，這一切都是為了將​​其引向自己的目標。如果網(wǎng)絡犯罪分子無法訪問數(shù)據(jù)集，則可以利用篡改技術(shù)來強制人工智能系統(tǒng)產(chǎn)生計算錯誤或使其難以正確識別數(shù)據(jù)集。即使只是出于財務原因，檢查數(shù)據(jù)和輸入的準確性可能并不可行，但安全人員仍需要盡一切努力從可靠且經(jīng)過驗證的來源收集數(shù)據(jù)。在針對網(wǎng)絡攻擊的防御措施中，值得一提的是，在某些部分或整個人工智能系統(tǒng)中添加了具有自動預防機制的隔離功能。

Deepfakes的力量

網(wǎng)絡犯罪分子還可以使用人工智能使其網(wǎng)絡攻擊行為或社交策略更加有效。人工智能可以提供黑客活動的數(shù)據(jù)集，以研究哪種技術(shù)最有效。使用人工智能可以顯著改進網(wǎng)絡犯罪分子當前正在實施的所有策略。他們采用人工智能的另一個潛在領域包括識別軟件、應用或網(wǎng)站代碼中的新缺陷。在這種情況下，人工智能系統(tǒng)將為他們提供一系列潛在的攻擊點，如同訓練有素的獵犬一樣。

人們不要忘記Deepfakes帶來的影響，它可能是網(wǎng)絡犯罪分子利用社交軟件的一個前沿領域。例如2019年在英國發(fā)生的一件采用Deepfakes進行詐騙的事件，當時一家公司的財務人員成為一個精心設計的騙局的受害者，該騙局基于Deepfake音頻通話技術(shù)。使受害人相信自己正在與該公司的首席執(zhí)行官通話，于是毫不猶豫地根據(jù)其指令將25萬美元轉(zhuǎn)給網(wǎng)絡犯罪分子，毫無疑問，電話詐騙是采用Deepfake技術(shù)進行不當獲利的措施之一。

但是正如人們所看到的，Deepfakes顯然可以成功并令人信服地得以應用。這名受害者當時表示，他通過“輕微的德國口音”和“說話節(jié)奏”確認了首席執(zhí)行官的聲音。如今制作Deepfakes音頻的過程非常簡單。網(wǎng)絡犯罪分子只需要采用機器學習技術(shù)即可克隆目標人物的聲音，通常使用間諜軟件和設備，使他們可以收集目標人物數(shù)小時的錄音。

他們能夠收集的數(shù)據(jù)越多，音頻文件的質(zhì)量就越好。實際上，語音克隆得越準確，也就越有可能造成損害。一旦創(chuàng)建了語音模式，人工智能就開始“學習”模仿目標的語音。然后使用所謂的生成性對手網(wǎng)絡(GAN)進行改進，通過多次嘗試，該算法能以指數(shù)級的速度改進自身。

對于備受矚目的目標人物而言，這不是一個好消息(例如知名企業(yè)的首席執(zhí)行官)。他們的演講被在線記錄并通過社交媒體共享，而電話、訪談和日常對話的音頻和視頻也相對容易獲得。有了足夠的數(shù)據(jù)，Deepfake音頻文件所達到的準確性水平令人震驚，網(wǎng)絡犯罪分子可以采用人工智能技術(shù)模仿想要說出的任何話語。

網(wǎng)絡釣魚的發(fā)展

當然，網(wǎng)絡釣魚事件如今仍然非常猖獗，85%的組織發(fā)現(xiàn)自己已經(jīng)成為網(wǎng)絡攻擊目標。然而，Deepfake音頻之所以能夠泛濫，一個主要原因是能夠規(guī)避大多數(shù)安全措施。另一方面，這些人工智能生成的調(diào)用完全依賴于人為錯誤和輕信，這是它們成為潛在風險的原因。此外不要忽略這樣一個事實，即使是隨時使用的智能手機，也沒有人們想象的那么安全，那么不難看出網(wǎng)絡犯罪分子可以通過多種方式繞過安全防御措施。

目前網(wǎng)絡釣魚沒有大規(guī)模泛濫有兩大障礙。一是還沒有達到更高的成本效益比：一個發(fā)送釣魚電子郵件的僵尸網(wǎng)絡能夠在短時間內(nèi)發(fā)送數(shù)百萬封電子郵件。而Deepfake音頻需要一些時間來研究目標和處理時間。而在這一段時間內(nèi)，傳統(tǒng)的網(wǎng)絡攻擊方法能夠產(chǎn)生更多的收益。二是盡管人工智能驅(qū)動的網(wǎng)絡安全措施確實還處于試驗階段，但已經(jīng)有一種有效的方法來對付這種威脅：如果用戶不確定真假，可以掛斷電話。

大多數(shù)Deepfake騙局都是使用VoIP帳戶來實施的，這個賬戶是網(wǎng)絡犯罪分子為了聯(lián)系目標人物而創(chuàng)建的。而通過回撥電話，目標人物應該能夠立即判斷他們是否在和真人交談。

如何從人工智能中受益以實現(xiàn)組織和個人安全?

對于人們來說，人工智能在安全方面帶來的也不完全是壞消息，人工智能可以非常有效地進行網(wǎng)絡監(jiān)控和分析。這樣的計算系統(tǒng)已經(jīng)被證明在檢測標準行為和識別可能的異常方面出人意料地有效。例如，在分析服務器訪問日志或數(shù)據(jù)流量時，可以使用這種功能。通過提前檢測入侵，有更多的機會將網(wǎng)絡攻擊的破壞性降至最低。在最初的應用中，讓人工智能系統(tǒng)報告異常情況，并提醒IT部門進行進一步調(diào)查可能是有用的。人工智能技術(shù)仍在不斷改進，并且在不久的將來有可能擁有實時消除威脅和防止網(wǎng)絡攻擊的能力。鑒于公共和私營部門存在的網(wǎng)絡安全缺陷，人工智能系統(tǒng)可以實施其中一些監(jiān)督任務，讓組織的人員專注于解決復雜的問題。

隨著組織不斷努力削減人工成本，人工智能正變得越來越具有吸引力，并有望在不久的將來取代網(wǎng)絡安全人員。這種轉(zhuǎn)變將在結(jié)果和成本效率方面為組織帶來更多的好處。但那些明智的組織現(xiàn)在需要制定安全戰(zhàn)略，以降低使用了人工智能技術(shù)的網(wǎng)絡攻擊帶來的潛在風險。

原文標題：Artificial Intelligence and Cybersecurity: A Double-Edged Sword，作者：Pierguido Iezzi

【51CTO譯稿，合作站點轉(zhuǎn)載請注明原文譯者和出處為51CTO.com】