如同一些出生免疫力即有缺陷的人一樣，AI天生也存在免疫力缺陷。例如，車輛的輔助駕駛和自動駕駛系統(tǒng)會因算法技術缺陷喪失識別交通指示牌的能力，成為“沒有視覺系統(tǒng)”的汽車，從而給出錯誤的決策，遇到大型障礙物時“看不到”停車標志，一頭撞上去。

AI模型對微小擾動很敏感，一些細微不可見的改動就可以引起算法上的巨大誤差，往往帶來可怕的安全威脅?；趶脑搭^打造安全免疫力的新一代安全架構理念，最近，阿里安全發(fā)布了一項核心技術“AI安全診斷大師”，可對AI模型全面體檢，“看診開方”，讓AI模型出生就自帶增強型免疫力，抵御安全威脅。

“AI安全診斷大師”包括一款對AI模型安全性進行評測和防御的工具箱，對多個云上算法接口進行安全性測試后，還沉淀出一套在實際生產中能對惡意攻擊進行過濾，降低安全風險的AI防火墻系統(tǒng)。

據阿里安全圖靈實驗室高級算法專家華棠介紹，“AI安全診斷大師”提供了全方位的體檢與診斷開方服務，對AI模型進行體檢后，通過診斷算法可能出錯的特殊情形，給模型防御增強提供細化“健康”指導。

值得注意的是，這種“安全診斷”看得見。“AI安全診斷大師”提供了一個可視化界面，以模型的損失曲面分析圖呈現被評估AI模型的輸入擾動及響應表現，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時，抵御攻擊的能力更強。

“AI安全診斷大師”的可視化診斷結果界面

除了提供總體安全性能評估的“體檢報告”，“AI安全診斷大師”可通過指定評測數據集生成針對某幾種特定攻擊的性能報告，提供不同攻擊算法下更細化的安全性指標。它可以提供即插即用的安全能力，對于那些不方便“面診”的“患者”，比如只能提供API接口的AI服務，“AI安全診斷大師”提供“云體檢”服務，只需調用接口即可評測AI的安全性。

“AI安全診斷大師”給多個算法API出具的遭遇攻擊的體檢報告

“AI安全診斷大師”檢測到算法服務的潛在安全風險后，還有針對惡意攻擊的防火墻功能，定制化提供防御升級的建議。

“將多種攻擊檢測和對抗防御方法作為附加模塊，可為AI模型部署前置服務，在不修改原模型的基礎上，提升模型對于對抗樣本攻擊的防御性能，降低用戶使用成本和風險。經過在色情、暴恐、敏感圖像識別等多種內容安全服務上的測試，‘AI安全診斷大師’可將模型對外部攻擊的有效防御能力整體提升40%以上。”華棠說。

不久前，阿里安全曾發(fā)布了一個高效打造AI深度模型的“AI訓練師助手”，讓AI訓練模型面對新場景時不用從頭學習，直接從已經存在的模型上遷移，迅速獲得別人的知識、能力，成為全新的AI模型，將模型打造周期從一個月縮短為一天。在阿里新一代安全架構的指導下，阿里安全圖靈實驗室不斷致力于磨礪出提升AI效率，保障AI安全的技術和產品，推動AI安全的相關技術更好地應用于實際場景中。

中國科學院計算技術研究所副研究員王樹徽評價：“阿里安全從整體層面考慮了人工智能安全的架構性漏洞，提出了‘安全基建’的構想和技術系統(tǒng)。在關鍵技術層面，集成了最新的AI攻防技術，充分考慮了人工智能安全攻防兩端的應用需求，分析結果可解釋性強，易于理解并指導實踐。在實用層面，提供了一套切實可行、即插即用的解決方案，定制化提出防御升級方案，幫助廣大人工智能技術實踐者有效提高其算法系統(tǒng)的免疫力和安全水平。此外，阿里安全的新一代安全架構的應用成果也有望促進人工智能技術的發(fā)展和進步，為新一代人工智能的理論方法研究提供了支持。”

目前阿里安全正與相關部門、企業(yè)、高校一起參與人工智能安全標準的制定，“AI安全診斷大師”的落地成果也作為優(yōu)秀應用案例，被收錄于全國信息標準化技術委員會打造的《人工智能安全標準化白皮書(2019版)》。