人工智能 (AI) 可能為各種規(guī)模的企業(yè)開辟了新的機會和市場，但對于不同的黑客群體來說，這為通過稱為數(shù)據(jù)中毒的過程欺騙機器學習 (ML) 系統(tǒng)提供了機會。

“數(shù)據(jù)中毒”（Data poisoning）是一種特殊的對抗攻擊，是針對機器學習和深度學習模型行為的一系列技術。 惡意行為者可以利用數(shù)據(jù)中毒為自己打開進入機器學習模型的后門，從而繞過由人工智能算法控制的系統(tǒng)。數(shù)據(jù)中毒攻擊旨在通過插入錯誤標記的數(shù)據(jù)來修改模型的訓練集，目的是誘使它做出錯誤的預測。

專家表示，這些攻擊每天都在被忽視，這不僅會損失企業(yè)的潛在收入，還會感染機器學習系統(tǒng)，這些系統(tǒng)繼續(xù)重新感染那些依賴用戶輸入進行持續(xù)訓練的機器學習模型。

麥肯錫認為AI-ML技術的潛在全球影響價值為10萬億美元至15萬億美元，并表示該領域的早期領導者已經(jīng)看到5年股東總回報增加了 250%。但是，當麥肯錫向1000 多名高管詢問他們的數(shù)字化轉型工作時，72% 的受訪組織表示他們沒有成功擴展。

即使是剛開始使用黑魔法的黑客也發(fā)現(xiàn)數(shù)據(jù)中毒攻擊相對容易執(zhí)行，因為創(chuàng)建“污染”數(shù)據(jù)通?？梢栽诓涣私庖绊懙南到y(tǒng)的情況下完成。操縱自動補全以影響產(chǎn)品評論和政治虛假宣傳活動每天都在發(fā)生。

數(shù)據(jù)中毒攻擊可能會降低機器學習服務的可靠性

針對機器學習的攻擊通常被認為集中在兩個要素上：攻擊者擁有的信息和攻擊的時機，這解釋了ML算法、模型和數(shù)據(jù)安全解決方案提供商HiddenLayer?的Eoin Wickens?、Marta Janus?和Tom Bonner最近進行的研究。

攻擊者可以通過修改現(xiàn)有數(shù)據(jù)集中的條目或向數(shù)據(jù)集中注入被篡改的數(shù)據(jù)來執(zhí)行數(shù)據(jù)中毒，這些數(shù)據(jù)可以更容易地輸入到那些基于在線機器學習的服務中，這些服務通過用戶提供的輸入不斷地重新訓練。

有時，黑客只是想降低機器學習模型的整體可靠性，也許是為了實現(xiàn)與 ML 模型旨在產(chǎn)生的檢查相反的決定。在更有針對性的攻擊中，目標可能是一個更具體的錯誤結果，同時保持其他人的準確性，這些可能會在很長一段時間內被忽視。

包括自動補全、聊天機器人、垃圾郵件過濾器、入侵檢測系統(tǒng)、金融欺詐預防甚至醫(yī)療診斷工具在內的技術都容易受到數(shù)據(jù)中毒攻擊，因為它們使用在線訓練或持續(xù)學習模型。

NCC Group?首席科學家Chris Anley?在他最近的論文Practical Attacks on Machine Learning Systems中解釋說，黑客和不良行為者可能旨在將系統(tǒng)與精心制作的不良數(shù)據(jù)混淆，以添加“后門”行為。 

“例如，用于身份驗證的面部識別系統(tǒng)可能會被操縱，以允許任何佩戴特定眼鏡的人被歸類為某個用戶，而在其他情況下，系統(tǒng)會正常運行，”Anley 解釋說。“

Anley說，現(xiàn)在需要采取行動，因為越來越多的證據(jù)突出了必須解決的問題。Anley 還表示，用于訓練系統(tǒng)的敏感數(shù)據(jù)通?？梢员还粽呋謴筒⒂糜诠粝到y(tǒng)，而神經(jīng)網(wǎng)絡分類器可能是“脆弱的”，因為它們可能被迫對數(shù)據(jù)進行錯誤分類。他補充說，現(xiàn)有的對策可能會降低準確性，甚至為其他攻擊打開大門。遠程黑客可以提取經(jīng)過訓練的 ML 模型的高保真副本，為他們提供一個馴服的示例，以觀察和學習未來的攻擊。

“雖然由于可能存在各種緩解措施，利用這些問題并不總是可行，但這些新形式的攻擊已經(jīng)得到證明，并且在實際場景中肯定是可行的?！盇nley 說。