京東探索研究院院長(zhǎng)陶大程曾經(jīng)做過(guò)一個(gè)實(shí)驗(yàn)：在道路交通牌上貼一個(gè)小廣告，結(jié)果無(wú)人駕駛系統(tǒng)進(jìn)行了誤判，“由于缺乏可解釋性，也限制了人工智能更廣泛的應(yīng)用和賦能”。

[[411888]]

這是“雙面”人工智能的一個(gè)切面：一方面，運(yùn)用機(jī)器學(xué)習(xí)等人工智能技術(shù)，能夠?qū)崿F(xiàn)數(shù)據(jù)的識(shí)別保護(hù)、數(shù)據(jù)安全溯源等功能，提升了數(shù)據(jù)安全的防護(hù)能力;但另一方面，人工智能也會(huì)帶來(lái)新的安全問(wèn)題，如過(guò)度采集數(shù)據(jù)，甚至產(chǎn)生算法歧視、“數(shù)據(jù)投毒”等。

新技術(shù)安全問(wèn)題再受熱議，如何讓人工智能更可信?近日在上海舉行的世界人工智能大會(huì)上，眾多專(zhuān)家學(xué)者不約而同地關(guān)注到這個(gè)問(wèn)題，指出人工智能在數(shù)據(jù)和網(wǎng)絡(luò)安全中不可忽視的一面。

新型安全問(wèn)題不容忽視

盡管我國(guó)已經(jīng)躋身于世界人工智能的第一方陣，但是在人工智能發(fā)展與安全方面，依然面臨嚴(yán)峻的考驗(yàn)。

全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏指出，數(shù)字信息的過(guò)度采集和非法使用，可能侵犯公民的權(quán)利和隱私;算法的偏好可能加劇社會(huì)的偏見(jiàn)或歧視，威脅公平正義。

信息被竊取、盜賣(mài)，則可能引發(fā)更嚴(yán)重的刑事犯罪。他列舉了一組數(shù)據(jù)：當(dāng)前我國(guó)電信詐騙案件處在高發(fā)期，在一些地方已經(jīng)占了所有刑事案件的一半以上，超過(guò)傳統(tǒng)的盜竊案件。

“機(jī)器深度學(xué)習(xí)難以理解人性的道德，比如說(shuō)，無(wú)人駕駛汽車(chē)緊急避險(xiǎn)等智能決策可能威脅特定人群的生命。”他說(shuō)。

算力、算法、數(shù)據(jù)，是人工智能三要素，人工智能也引起了新型數(shù)據(jù)安全的問(wèn)題。國(guó)家工業(yè)信息安全發(fā)展研究中心副主任何小龍指出，人工智能的算法對(duì)數(shù)據(jù)具有較強(qiáng)的依賴(lài)性，可能會(huì)帶來(lái)“數(shù)據(jù)投毒”等類(lèi)似新型的數(shù)據(jù)安全挑戰(zhàn)。

所謂數(shù)據(jù)投毒，指的是在訓(xùn)練數(shù)據(jù)其中加入了偽裝數(shù)據(jù)或者惡意樣本，破壞數(shù)據(jù)完整性，造成算法模型結(jié)果的錯(cuò)誤。“比如說(shuō)原來(lái)微軟的聊天機(jī)器人Tay就發(fā)布過(guò)歧視性和攻擊性言論而被關(guān)閉，主要原因就是在對(duì)話(huà)數(shù)據(jù)集里面被惡意增加了不當(dāng)?shù)臄?shù)據(jù)。”何小龍說(shuō)。

其次是樣本偏差問(wèn)題?；诨A(chǔ)數(shù)據(jù)集多樣性和代表性不足，會(huì)導(dǎo)致人工智能的算法隱藏特定性的社會(huì)價(jià)值傾向或偏見(jiàn)，輸出不公平結(jié)果。

越來(lái)越多的開(kāi)源框架也引發(fā)了新的風(fēng)險(xiǎn)，“比如在一項(xiàng)目針對(duì)主流開(kāi)源架構(gòu)的安全測(cè)試，我們?cè)诙潭虝r(shí)間內(nèi)發(fā)現(xiàn)了24個(gè)安全問(wèn)題，其中包括2個(gè)嚴(yán)重危險(xiǎn)漏洞和8個(gè)高危漏洞。”何小龍說(shuō)。

“事實(shí)上，人工智能應(yīng)用當(dāng)中帶來(lái)了很多風(fēng)險(xiǎn)，包括自身的算力、算法帶來(lái)的脆弱性，也包括人工智能在應(yīng)用中的魯棒性(異常和危險(xiǎn)情況下系統(tǒng)生存的能力)、可解釋性、公平性問(wèn)題。這些新技術(shù)在和原有業(yè)務(wù)相結(jié)合時(shí)，可能會(huì)給原業(yè)務(wù)或者系統(tǒng)帶來(lái)巨大的系統(tǒng)性風(fēng)險(xiǎn)。”上海市委網(wǎng)信辦總工程師楊海軍說(shuō)。

如何為人工智能“定責(zé)”

“當(dāng)人類(lèi)把思考、控制甚至決策外包給了算法，人工智能首先要做的事情就是如何證明自己是值得信賴(lài)的。”中國(guó)信通院云計(jì)算與大數(shù)據(jù)研究所所長(zhǎng)何寶宏說(shuō)，值得信任的人工智能已成為全球的共識(shí)。

那么，什么樣的人工智能才是可信的?不同的機(jī)構(gòu)對(duì)此有不同的理解，根據(jù)IEEE(電氣與電子工程師協(xié)會(huì))提出“透明性”，以正確的方式使用技術(shù)，以人為本明確責(zé)任、造福人類(lèi);歐盟則提出魯棒性、安全性、人類(lèi)的監(jiān)督和干預(yù)、明確責(zé)任等等。2017年底，何積豐院士在香山科學(xué)會(huì)議上在國(guó)內(nèi)首次提出了“可信人工智能”概念。

目前，世界各國(guó)不約而同地廣泛關(guān)注可信人工智能。陶大程介紹，它匯聚成了四個(gè)主要的性能，從四個(gè)方面度量這個(gè)可信，一是穩(wěn)定性，即人工智能系統(tǒng)在抵抗惡意攻擊或者是環(huán)境噪聲并且做出正確決策的能力;二是可解釋性，就是人工智能系統(tǒng)做決策的過(guò)程中，需要用人能夠理解的方式解釋是怎么做這些事情的;三是隱私保護(hù)，即人工智能系統(tǒng)不會(huì)把個(gè)人的隱私信息或者群體的隱私信息對(duì)外泄露;四是公平性，就是系統(tǒng)需要公平公正，正確對(duì)待所有的用戶(hù)，無(wú)論是針對(duì)大眾用戶(hù)還是小眾用戶(hù)，男人還是女人。

而針對(duì)自動(dòng)駕駛事故這一復(fù)雜事件，也可以按照這個(gè)邏輯不斷拆解：系統(tǒng)出現(xiàn)問(wèn)題，需要知道為什么，誰(shuí)來(lái)承擔(dān)責(zé)任，并以怎樣的方式承擔(dān)等等，都需要有明確的指標(biāo)，度量可信人工智能。

上海交通大學(xué)約翰·霍普克羅夫特計(jì)算機(jī)科學(xué)中心副教授張拳石就介紹，如果自動(dòng)駕駛汽車(chē)發(fā)生撞人事件，首先在確定責(zé)任之前，要先知道系統(tǒng)的真實(shí)原因，可能20%的原因?yàn)榱吮茏屃硗鈨蓚€(gè)人，還有10%的原因可能涉及時(shí)間檢測(cè)算法模塊的失誤，界定清楚了內(nèi)在的機(jī)理原因，再給法官判斷。

螞蟻集團(tuán)副總裁、首席AI科學(xué)家漆遠(yuǎn)談到，人工智能的公平性表現(xiàn)在多個(gè)地方，比如一個(gè)很重要的社會(huì)問(wèn)題事關(guān)普惠性，即技術(shù)的包容性、服務(wù)平等性。他舉了一個(gè)例子：驗(yàn)證碼本來(lái)是為了提升安全，但它本身會(huì)導(dǎo)致視障人群不能使用，于是支付寶開(kāi)發(fā)空中手勢(shì);用人工智能技術(shù)進(jìn)行舊物分類(lèi)回收，能夠識(shí)別哪一類(lèi)舊衣服哪一類(lèi)回收得多，給用戶(hù)更多的能量進(jìn)行螞蟻種樹(shù)，螞蟻集團(tuán)也承諾將在2030年實(shí)現(xiàn)凈零排放。

加強(qiáng)可信AI技術(shù)攻關(guān)

應(yīng)對(duì)人工智能安全挑戰(zhàn)，各國(guó)都在積極采取措施。在我國(guó)，從頂層設(shè)計(jì)來(lái)看，最新頒布的《數(shù)據(jù)安全法》，將于9月1日開(kāi)始正式實(shí)施，它為規(guī)范數(shù)據(jù)處理活動(dòng)、保障數(shù)據(jù)安全提供法律依據(jù)。

此外，相關(guān)部門(mén)面對(duì)人工智能的重要領(lǐng)域也提出了詳細(xì)的管理規(guī)定和管理框架，提出了針對(duì)性的數(shù)據(jù)管理的要求。

如今年3月份，中國(guó)人民銀行印發(fā)《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》;2021年4月，工業(yè)和信息化部《智能網(wǎng)聯(lián)汽車(chē)生產(chǎn)企業(yè)及產(chǎn)品準(zhǔn)入管理指南(試行)》，對(duì)各個(gè)領(lǐng)域人工智能安全的保護(hù)提出了相關(guān)的要求。

目前，可信AI技術(shù)已在反欺詐、反洗錢(qián)、反賭博、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)等多個(gè)風(fēng)控場(chǎng)景下落地。

何小龍建議，推動(dòng)開(kāi)展可信人工智能前沿算法攻關(guān)，圍繞人工智能在不同場(chǎng)景應(yīng)用，制定相關(guān)行業(yè)規(guī)范和技術(shù)標(biāo)準(zhǔn)。

圍繞數(shù)據(jù)安全，涌現(xiàn)出了諸如微眾銀行、深圳星云Clustar、洞見(jiàn)科技等一批隱私計(jì)算服務(wù)企業(yè)。“隱私計(jì)算等技術(shù)賦能可信AI，可促進(jìn)數(shù)據(jù)價(jià)值可信流動(dòng)。”锘崴科技董事長(zhǎng)兼CTO王爽說(shuō)。

可信AI并非一成不變。陶大程就提到，正如手機(jī)的出現(xiàn)，一開(kāi)始大家都覺(jué)得它很便捷，但后來(lái)又發(fā)現(xiàn)手機(jī)占用了我們太多的時(shí)間。類(lèi)似的，可信技術(shù)也會(huì)隨時(shí)間和空間的變化而變化。