人工智能面臨十大安全威脅
近日，應(yīng)歐盟和美國政府的要求，可信AI研究和咨詢專業(yè)公司Adversa發(fā)表了業(yè)界首個全面的人工智能安全性和可信度研究報告，該報告還結(jié)合了Gartner的相關(guān)預(yù)測以及最近對AI的對抗性攻擊事件。
Adversa顧問委員會前Gartner分析師Oliver Rochford指出：建立對機(jī)器學(xué)習(xí)安全性的信任至關(guān)重要。我們要求人們?nèi)ハ嘈臕I的黑匣子(這很困難)，為了使AI革命成功，我們必須建立信任……AI面臨的安全風(fēng)險太大，同時收益也很大。
Adversa的CTO Eugene Neelou表示：“為了提高可信AI領(lǐng)域的安全意識，一年多前我們啟動了一個項目，以分析學(xué)術(shù)、行業(yè)和政府過去十年的發(fā)展情況。結(jié)果令人目瞪口呆，受測AI系統(tǒng)普遍存在安全性和偏差問題，以及缺乏適當(dāng)?shù)姆烙胧藗儗I安全的興趣呈指數(shù)增長。企業(yè)應(yīng)緊密跟蹤最新AI威脅，實施AI安全意識計劃，并保護(hù)其AI開發(fā)生命周期，最重要的是從現(xiàn)在開始做起。”
報告顯示：AI領(lǐng)域的安全現(xiàn)狀異常糟糕;過去兩年AI安全研究論文呈現(xiàn)爆炸式增長;美國、中國、歐洲在可信AI研究領(lǐng)域競爭激烈，中國正在加速反超;AI人工智能領(lǐng)域面臨十大安全威脅。
以下為報告中的部分亮點(diǎn)數(shù)據(jù)，安全牛整理如下：
現(xiàn)實中的AI安全事件正在快速增長：
在汽車、生物識別、機(jī)器人技術(shù)和互聯(lián)網(wǎng)行業(yè)中，現(xiàn)實世界中的AI安全事件正在快速增長。作為AI的早期采用者，最受關(guān)注的行業(yè)是互聯(lián)網(wǎng)(23%)、網(wǎng)絡(luò)安全(17%)、生物識別技術(shù)(16%)和自治(13%)。
AI安全研究論文爆炸式增長：
過去兩年中，政府、學(xué)術(shù)界和工業(yè)界發(fā)布的AI安全性方面的研究論文多達(dá)3500篇，超過過去二十年的總和。美國、中國、歐盟之間的激烈競爭預(yù)計將在可信AI競賽中繼續(xù)下去：美國發(fā)表了47%的研究論文，但中國勢頭強(qiáng)勁。
AI還沒有為黑客攻擊做好準(zhǔn)備：
人工智能行業(yè)對于現(xiàn)實世界的黑客攻擊還沒有做好充分的準(zhǔn)備，60種最常用的機(jī)器學(xué)習(xí)(ML)模型平均至少有一個安全漏洞。
最多被攻擊者針對的AI技術(shù)領(lǐng)域是計算機(jī)視覺：
最多被針對的AI領(lǐng)域是計算機(jī)視覺(65%)，其次是分析、語言和自治系統(tǒng)。
圖像、文本和記錄是最容易遭受攻擊的AI數(shù)據(jù)集：
圖像分類和人臉識別最常被攻擊的AI應(yīng)用：
互聯(lián)網(wǎng)、網(wǎng)絡(luò)安全、生物識別和汽車行業(yè)是AI網(wǎng)絡(luò)安全問題的重災(zāi)區(qū)：
AI面臨十大安全威脅：
- 繞過攻擊(通過對抗性樣本操縱AI決策和結(jié)果)81%
- 毒化攻擊(注入惡意數(shù)據(jù)降低AI系統(tǒng)可靠性和精確度)6.8%
- 推斷攻擊(推斷特定數(shù)據(jù)樣本是否被用于AI訓(xùn)練)3.5%
- 后門攻擊2.3%
- 模型抽取攻擊(通過惡意查詢命令暴露AI算法細(xì)節(jié))1.9%
- 歸屬推斷攻擊1.3%
- 木馬攻擊1.2%
- 模型逆轉(zhuǎn)攻擊(通過惡意查詢獲取的公共輸出數(shù)據(jù)推斷輸入數(shù)據(jù))1.2%
- 反水印攻擊(繞過AI系統(tǒng)對版權(quán)和真實性的檢測)0.6%
- 重編程攻擊(改變AI模型用于非法用途)0.2%
參考資料：https://adversa.ai/report-secure-and-trusted-ai
【本文是51CTO專欄作者“安全牛”的原創(chuàng)文章，轉(zhuǎn)載請通過安全牛（微信公眾號id:gooann-sectv）獲取授權(quán)】
