自動(dòng)駕駛技術(shù)、智能助理、人臉識(shí)別、智能工廠、智慧城市等人工智能技術(shù)現(xiàn)已廣泛落地，這些令人難以置信的技術(shù)正在快速改變我們的生活。但相關(guān)領(lǐng)域安全事件也在快速增加，這使得研究人員和使用者對(duì)人工智能的安全性擔(dān)憂不斷提高。人工智能應(yīng)用帶來(lái)的紅利和其引發(fā)的安全隱患，猶如一個(gè)硬幣的兩面，需要全行業(yè)高度關(guān)注并找到有效的應(yīng)對(duì)方法。

日前，安全研究人員梳理總結(jié)了目前人工智能技術(shù)在實(shí)踐應(yīng)用中經(jīng)常要面對(duì)的7個(gè)數(shù)據(jù)安全威脅。

威脅1模型中毒

模型中毒（Model poisoning）是一種對(duì)抗性攻擊形式，旨在操縱機(jī)器學(xué)習(xí)模型的結(jié)果。威脅行為者可以嘗試向模型中注入惡意數(shù)據(jù)，進(jìn)而導(dǎo)致模型對(duì)數(shù)據(jù)進(jìn)行錯(cuò)誤分類并做出錯(cuò)誤的決策。例如，工程圖像可以欺騙機(jī)器學(xué)習(xí)模型，將它們分類到與人類最初分類不同的類別中（例如，將貓的圖像標(biāo)記為老鼠）。研究發(fā)現(xiàn)，這是一種欺騙AI系統(tǒng)的有效方法，因?yàn)樵谳敵鲋?，不可能判斷特定的輸入是否?huì)導(dǎo)致錯(cuò)誤的預(yù)測(cè)。

為了防止惡意行為者篡改模型輸入，企業(yè)組織應(yīng)該實(shí)施嚴(yán)格的訪問(wèn)管理策略來(lái)限制對(duì)訓(xùn)練數(shù)據(jù)的訪問(wèn)。

威脅2隱私泄露

隱私保護(hù)是一個(gè)敏感的問(wèn)題，需要額外的關(guān)注和重視，尤其是AI模型中包含有未成年人的數(shù)據(jù)時(shí)，問(wèn)題就更復(fù)雜了。例如，針對(duì)青少年的一些借記卡選項(xiàng)，銀行必須確保其安全標(biāo)準(zhǔn)符合監(jiān)管合規(guī)要求。所有以任何形式或途徑收集客戶信息的公司都需要制定數(shù)據(jù)保護(hù)政策。這樣，客戶就可以知道組織如何處理他們的數(shù)據(jù)。然而，用戶如何知道他們的數(shù)據(jù)是否流入了人工智能算法的應(yīng)用中？很少（或者可以說(shuō)幾乎沒(méi)有）隱私策略包含這些信息。

我們正在步入人工智能驅(qū)動(dòng)的時(shí)代，對(duì)于個(gè)人來(lái)說(shuō)，了解企業(yè)如何使用人工智能、人工智能的功能及其對(duì)數(shù)據(jù)的影響將變得非常重要。同樣地，攻擊者可能會(huì)試圖使用惡意軟件竊取包含信用卡號(hào)碼或社會(huì)安全號(hào)碼等個(gè)人信息的敏感數(shù)據(jù)集。企業(yè)組織必須定期進(jìn)行安全審計(jì)，并在人工智能開發(fā)的所有階段實(shí)施強(qiáng)有力的數(shù)據(jù)保護(hù)實(shí)踐。隱私風(fēng)險(xiǎn)可能發(fā)生在數(shù)據(jù)生命周期的任何階段，因此為所有利益相關(guān)者制定統(tǒng)一的隱私安全策略非常重要。

威脅3數(shù)據(jù)篡改

數(shù)據(jù)操縱、暴露和篡改所帶來(lái)的風(fēng)險(xiǎn)，在AI規(guī)?；瘧?yīng)用背景下正在被不斷放大，因?yàn)檫@些系統(tǒng)需要基于大量數(shù)據(jù)進(jìn)行分析決策，而這些數(shù)據(jù)很容易被惡意行為者操縱或篡改。此外，算法偏見(jiàn)是人工智能規(guī)?；瘧?yīng)用中所面臨的另一個(gè)主要問(wèn)題。人工智能算法和機(jī)器學(xué)習(xí)程序應(yīng)該是客觀和公正的，但事實(shí)卻并非如此。

人工智能算法的數(shù)據(jù)篡改威脅是一個(gè)巨大的問(wèn)題，這沒(méi)有簡(jiǎn)單的解決方案，但它需要引起重視。如何確保輸入算法的數(shù)據(jù)是準(zhǔn)確、可靠且不被篡改的？如何確保數(shù)據(jù)不會(huì)以令人討厭的方式使用？所有這些問(wèn)題都是非?，F(xiàn)實(shí)的問(wèn)題，但目前行業(yè)還沒(méi)有找到明確的答案。

威脅4內(nèi)部威脅

就數(shù)據(jù)安全而言，來(lái)自內(nèi)部威脅無(wú)疑是最危險(xiǎn)的一種，也是代價(jià)最高昂的一種類型。根據(jù)最新的《內(nèi)部威脅成本：全球報(bào)告》顯示，在過(guò)去兩年中，內(nèi)部威脅事件的數(shù)量上升了44%，每起事件的平均損失成本為1538萬(wàn)美元。

內(nèi)部威脅之所以如此危險(xiǎn)，是因?yàn)樗麄兊膭?dòng)機(jī)不一定是金錢，還可能是出于報(bào)復(fù)、好奇心或人為錯(cuò)誤等其他因素。正因如此，它們比外部的攻擊者更難預(yù)測(cè)和阻止。

對(duì)于那些涉及公民健康的公司來(lái)說(shuō)，內(nèi)部威脅無(wú)疑是更有害的。以醫(yī)療保健服務(wù)商HelloRache為例，該公司使用了AI模式的虛擬記錄員（virtual scribes，協(xié)助醫(yī)生處理計(jì)算機(jī)相關(guān)任務(wù)的助手）工具，因此他們可以遠(yuǎn)程協(xié)助醫(yī)生護(hù)理病人，做病情記錄工作。但如果內(nèi)部人員找到了方法，可能會(huì)導(dǎo)致系統(tǒng)被錯(cuò)誤連接，甚至可以監(jiān)控獲取患者的醫(yī)療信息。

威脅5針對(duì)性蓄意攻擊

一項(xiàng)研究數(shù)據(jù)顯示，86%的企業(yè)組織開始將人工智能作為未來(lái)數(shù)字化發(fā)展的“主流”技術(shù)，并加大投資各種數(shù)據(jù)驅(qū)動(dòng)的AI技術(shù)，以幫助企業(yè)做出更好的決策、改善客戶服務(wù)并降低成本。但有一個(gè)問(wèn)題：對(duì)人工智能系統(tǒng)的蓄意攻擊正在增加，如果沒(méi)有適當(dāng)?shù)目刂拼胧?，它們可能?huì)為組織帶來(lái)超百萬(wàn)美元的損失。

“蓄意攻擊”是指有目的地通過(guò)侵入人工智能系統(tǒng)來(lái)破壞一個(gè)組織的業(yè)務(wù)運(yùn)作，目的是獲取領(lǐng)先于對(duì)手的競(jìng)爭(zhēng)優(yōu)勢(shì)。在蓄意攻擊場(chǎng)景中，對(duì)AI和ML的數(shù)據(jù)安全威脅可能尤其具有破壞性。因?yàn)檫@些系統(tǒng)中使用的數(shù)據(jù)通常是專有的，具有很高的價(jià)值。當(dāng)人工智能系統(tǒng)遭到針對(duì)性的蓄意攻擊時(shí)，其后果不僅僅是數(shù)據(jù)被竊取，而是公司的競(jìng)爭(zhēng)能力被破壞。

威脅6大規(guī)模采用

人工智能是正在快速增長(zhǎng)的行業(yè)，這意味著它們?nèi)匀缓艽嗳?。隨著AI應(yīng)用越來(lái)越受歡迎，并在世界范圍內(nèi)被采用，黑客將會(huì)找到新的方法來(lái)干擾這些程序的輸入和輸出。AI通常是一套復(fù)雜的系統(tǒng)，以至于開發(fā)人員很難知道他們的代碼在各種應(yīng)用情況下會(huì)如何表現(xiàn)。當(dāng)無(wú)法預(yù)測(cè)會(huì)發(fā)生什么時(shí)，就很難阻止它的發(fā)生。

保護(hù)企業(yè)免受大規(guī)模應(yīng)用威脅的最佳方法是結(jié)合良好的編碼實(shí)踐、測(cè)試流程，并在發(fā)現(xiàn)新漏洞時(shí)及時(shí)更新。當(dāng)然，不要放棄傳統(tǒng)形式的網(wǎng)絡(luò)安全預(yù)防措施，例如使用托管數(shù)據(jù)中心來(lái)保護(hù)服務(wù)器免受惡意攻擊和外部威脅。

威脅7AI驅(qū)動(dòng)的攻擊

研究人員發(fā)現(xiàn)，惡意攻擊者正在將人工智能武器化，幫助他們?cè)O(shè)計(jì)和實(shí)施攻擊。在這種情況下，“設(shè)計(jì)攻擊”指的是選擇一個(gè)目標(biāo)，確定他們?cè)噲D竊取或破壞什么數(shù)據(jù)，然后決定一種傳輸方法。非法攻擊者可以使用機(jī)器學(xué)習(xí)算法尋找繞過(guò)安全控制的方法來(lái)進(jìn)行攻擊，或者使用深度學(xué)習(xí)算法，根據(jù)真實(shí)世界的樣本創(chuàng)建新的惡意軟件。安全專家必須不斷防御愈發(fā)智能的機(jī)器人，因?yàn)橐坏┧麄冏柚沽艘环N攻擊，另一種新的攻擊就會(huì)出現(xiàn)。簡(jiǎn)而言之，人工智能使攻擊者在當(dāng)前安全保障措施中尋找漏洞變得更容易。

參考鏈接：

??https://www.datasciencecentral.com/top-7-data-security-threats-to-ai-and-ml/??