4月26日，由國家互聯(lián)網(wǎng)信息辦公室主辦人工智能分論壇舉辦，論壇以“人工智能—社會實驗視角下的社會治理”為主題。各產(chǎn)業(yè)相關(guān)領(lǐng)域?qū)＜掖硪煌瑖@人工智能發(fā)展可能帶來的風險和問題，探討人工智能賦能社會治理的規(guī)律和經(jīng)驗，共同推進人工智能產(chǎn)業(yè)健康發(fā)展。論壇期間，由中央網(wǎng)信辦信息化發(fā)展局組織評選的“人工智能企業(yè)典型應用案例”正式發(fā)布，本次案例評選在發(fā)現(xiàn)和挖掘人工智能行業(yè)的最新場景和杰出企業(yè)，進一步推動我國人工智能健康穩(wěn)定發(fā)展。經(jīng)人工智能社會實驗專家組評審，瑞萊智慧RealAI的“人工智能安全與深度偽造治理應用案例”成功入選，與華為、百度、曠視、商湯、依圖等企業(yè)共同位列其中。

瑞萊智慧RealAI CEO田天介紹，由于當前的人工智能仍處在初級階段，算法本身存在不安全、不可解釋等結(jié)構(gòu)性缺陷，這就導致技術(shù)漏洞可能被用于惡意攻擊，通過對抗性數(shù)據(jù)污染、算法修改、惡意樣本等方式對算法進行深層次攻擊，讓人工智能系統(tǒng)“精神紊亂”，以高置信度給出錯誤輸出。這產(chǎn)生的后果將可能威脅到人類財產(chǎn)生命安全。比如通過佩戴特定設(shè)計、有對抗攻擊能力的眼鏡等實體物件，導致能夠攻破手機解鎖、線上身份認證、線下安防等領(lǐng)域的AI系統(tǒng)，讓安全驗證形同虛設(shè)。甚至在交通領(lǐng)域，車輛的輔助駕駛或自動駕駛系統(tǒng)也可能因為AI算法缺陷而喪失正常的視覺識別能力，錯誤識別交通指示牌、“看不到”大型障礙物等，嚴重威脅人身和財產(chǎn)安全。

本次論壇主題切實討論人工智能發(fā)展可能帶來的風險和問題，作為“人工智能企業(yè)典型應用案例”入選企業(yè)，瑞萊智慧RealAI的“人工智能安全與深度偽造治理應用案例”為治理工作提出了有效技術(shù)方案。據(jù)介紹，北京瑞萊智慧科技有限公司是孵化自清華人工智能研究院的官方產(chǎn)學研機構(gòu)，依托其自身“產(chǎn)學研”一體化優(yōu)勢，瑞萊智慧創(chuàng)新性地提出了“攻防動態(tài)平衡”機制，以子之矛、攻子之盾，通過攻防對抗不斷升級，演練出針對性的防御技術(shù)。通過對抗性算法研究，先于黑客發(fā)現(xiàn)并修補漏洞，避免攻擊隱患；通過生成更為逼真的深度偽造視頻，再訓練出更為領(lǐng)先的檢測算法。

在此基礎(chǔ)上，瑞萊智慧RealAI打造出一套完備且行之有效的技術(shù)工具來輔助解決人工智能安全問題。比如，業(yè)內(nèi)首個人工智能安全平臺RealSafe，通過集成領(lǐng)先攻防算法，支持對AI系統(tǒng)進行自動化的安全檢測與防御加固，提升AI系統(tǒng)對對抗樣本等攻擊手段的識別能力。在應對濫用方面，瑞萊智慧推出DeepReal深度偽造檢測工具和一體機，能夠高效精準的判斷視頻、圖片等內(nèi)容素材是否是經(jīng)過AI偽造，能夠有效避免輿情、預警濫用等。這次入選的“人工智能安全與深度偽造治理應用案例”也正是基于這兩大技術(shù)平臺打造，能夠有效避免人工智能落地應用過程面臨的潛在安全隱患。

當前，人工智能研究高度開放，這也導致人工智能技術(shù)的濫用風險激增，直接性造成風險漏洞的出現(xiàn)。此外，人工智能既有多學科綜合、高度復雜等特性，帶有天然的技術(shù)壁壘，給監(jiān)管部門的監(jiān)督管理和風險防范提出了不小的挑戰(zhàn)。

同時也有專家表示，人工智能設(shè)計者的價值導向和行為偏好易于被有意或無意地反映到算法、數(shù)據(jù)當中，并通過機器學習被人工智能所承繼，進而演進為算法歧視。而在具體適用過程中，容易受到對抗樣本的干擾或污染，被應用者二次形塑，做出背離設(shè)計初衷的錯誤決策。專家重點提到，在人工智能飛速發(fā)展的當下，安全問題日益凸顯，需要我們加強對潛在風險的研判和防范，切實維護好利益和安全，確保人工智能安全可靠、可控。

田天表示，人工智能治理是一個長期的工作，“技術(shù)”與“制度”需同步推進，前者解決技術(shù)的不安全性與脆弱性，后面從應用層面給出規(guī)范與指引。