[[410884]]

當前，人工智能應用的廣度和深度不斷拓展，正在成為信息基礎設施的重要組成。但在此過程中，人工智能也不斷暴露出一些風險隱患，諸如算法安全、數(shù)據(jù)歧視、數(shù)據(jù)濫用等，如何確保人工智能的安全、可信和公平成為業(yè)內關注的重點問題。

“當前全世界各國都高度重視可信人工智能的發(fā)展，發(fā)展可信人工智能是我們真正最終能夠釋放出人工智能的前景，能夠造福于全球我們人民的發(fā)展，這是一個關鍵的基礎。”中國信通院院長余曉暉在“2021 世界人工智能大會”期間的“可信 AI 論壇”上提到。

在論壇期間，眾多院士、可信 AI 領域專家學者，政府及行業(yè)協(xié)會、AI 企業(yè)代表等就這一關乎人工智能長遠發(fā)展的重要議題展開探討。

可信 AI 技術是幫助 AI 實現(xiàn)可信的基礎

“可信人工智能技術是幫助人工智能實現(xiàn)可信的基礎。”京東探索研究院院長、澳大利亞科學院院士陶大程博士發(fā)表了自己對于可信 AI 的看法。

“從技術角度來說，可信人工智能的研究可以歸結為穩(wěn)定性、可解釋性、隱私保護及公平性四個方面，從以上四點出發(fā)研究可信人工智能，首要任務是找到合適的方法來定量分析、量化人工智能算法、模型和系統(tǒng)在穩(wěn)定性、可解釋性、隱私保護及公平性方面的能力。”陶大程講到。

目前，穩(wěn)定性可以通過各類攻擊算法的攻擊成功率或攻擊性能來衡量;可解釋性中的泛化能力，可以通過泛化誤差上界來描述;隱私保護能力常通過差分隱私法來刻畫，也能通過各類隱私攻擊算法的攻擊成功率或攻擊性能來評估;公平性則使用一系列公平決策指標來進行衡量，這些指標主要分為個體公平性及群體公平性兩大類。

同時他強調，這四個方面內部存在著深層次聯(lián)系，彼此之間并不孤立。因此，在開展可信人工智能研究時，不能僅從單一維度出發(fā)，而需要從整體綜合考慮不同因素之間的影響。這樣，才能更好地進行相關研究，從而推動可信人工智能的進一步發(fā)展。

陶大程進一步表示，不管歐盟的 GDPR 也好，還是中國的隱私保護條例也好，都說明用戶對數(shù)據(jù)使用要更謹慎，說明了用戶對個人信息的保護，是有相當?shù)臋嗬摹?ldquo;只有將上述四個能力綜合后，做到明確的責任，才能找到合適的方式度量可信人工智能。”

未來可信 AI 一體化研究將是重要趨勢

中國信通院云計算和大數(shù)據(jù)研究所所長何寶宏表示：“我們已經針對可信賴的人工智能形成了一些共識，但是整體來看還處于一個初期的探索階段，很多還是碎片化的，理論還不夠，還需要學術界、產業(yè)界、政府主管部門等共同努力。”

在可信 AI 論壇上，中國信通院聯(lián)合京東探索研究院發(fā)布了《可信人工智能白皮書》，白皮書認為，可信人工智能已經不再僅僅局限于對人工智能技術、產品和服務本身狀態(tài)的界定，而是逐步擴展至一套體系化的方法論，涉及到如何構造“可信”人工智能的方方面面。

在陶大程看來，未來可信 AI 一體化研究將是重要趨勢，而可信能力評測也將成為人工智能產業(yè)落地過程中的重要一環(huán)。從理論與實踐層面持續(xù)開展可信 AI 研究，將推動人工智能產業(yè)新浪潮，幫助人工智能實現(xiàn)可信，將充分釋放人工智能的潛力，并更好地造福人類社會。

促進可信人工智能發(fā)展的四點倡議

值得一提的是，在論壇上，中國信通院、中國科學院自動化研究所中英人工智能倫理與治理研究中心、京東探索研究院、螞蟻集團等聯(lián)合發(fā)布了《促進可信人工智能發(fā)展倡議》(以下簡稱“倡議”)。

“倡議”基于當前人工智能技術的高速發(fā)展現(xiàn)狀，對人工智能伴隨的風險和挑戰(zhàn)，以及可信人工智能合規(guī)化發(fā)展的深度思考，旨在倡導政產學研各界加快形成國際協(xié)同治理共識，促進社會對可信 AI 的理解和重視，充分挖掘人工智能的產業(yè)和社會價值。

倡議號召人工智能行業(yè)同仁積極響應以下四點倡議：

一是堅持技術向善，確?？尚?AI 造福人類。加快可信人工智能技術研究，前瞻布局可信通用人工智能，打造可控可靠、透明可釋、隱私安全、責任明確、多元包容的人工智能系統(tǒng);聚焦技術設計、研發(fā)測試、運營使用全流程，堅持以人為本、技術向善，構建技術、社會、文化、價值融合共生的良性發(fā)展環(huán)境。

二是堅持權責共擔，推廣可信 AI 價值理念。廣泛宣傳可信人工智能價值，推動人工智能監(jiān)管者、研發(fā)者、制造者和受用者參與不斷完善和踐行可信理念;明確個人、企業(yè)、行業(yè)各主體責任、權益，在可信人工智能的總體框架和基本原則指導下，構建相互協(xié)調、共建共享的敏捷可信機制。

三是堅持健康有序，推動可信 AI 行業(yè)實踐。持續(xù)推動可信人工智能安全/倫理研究，構建可信人工智能標準體系，完善人工智能可信體系建設;培育人工智能可信評估和管控能力，探索人工智能產品應用保險機制，推動建立相互影響、相互支持、相互依賴的健康有序發(fā)展生態(tài)。

四是堅持多元包容，凝聚可信 AI 國際共識。支持多元主體共鑄合力、協(xié)調互動，共同構建企業(yè)自治、行業(yè)自律、社會監(jiān)督、政府監(jiān)管的人工智能治理體系;推動全球化溝通交流、開展協(xié)同化合作研究，在深度對話、尋求共識的基礎上，構建可信人工智能全球治理合作框架，和衷共濟應對人類共同挑戰(zhàn)。