當(dāng)前，人工智能應(yīng)用的廣度和深度不斷拓展，正在成為信息基礎(chǔ)設(shè)施的重要組成。但在此過(guò)程中，人工智能也不斷暴露出一些風(fēng)險(xiǎn)隱患，諸如算法安全、數(shù)據(jù)歧視、數(shù)據(jù)濫用等，如何確保人工智能的安全、可信和公平成為業(yè)內(nèi)關(guān)注的重點(diǎn)問(wèn)題。

[[410938]]

“當(dāng)前全世界各國(guó)都高度重視可信人工智能的發(fā)展，發(fā)展可信人工智能是我們真正最終能夠釋放出人工智能的前景，能夠造福于全球我們?nèi)嗣竦陌l(fā)展，這是一個(gè)關(guān)鍵的基礎(chǔ)。”中國(guó)信通院院長(zhǎng)余曉暉在“2021世界人工智能大會(huì)”期間的“可信AI論壇”上提到。

在論壇期間，眾多院士、可信AI領(lǐng)域?qū)＜覍W(xué)者，政府及行業(yè)協(xié)會(huì)、AI企業(yè)代表等就這一關(guān)乎人工智能長(zhǎng)遠(yuǎn)發(fā)展的重要議題展開(kāi)探討。

可信AI技術(shù)是幫助AI實(shí)現(xiàn)可信的基礎(chǔ)

“可信人工智能技術(shù)是幫助人工智能實(shí)現(xiàn)可信的基礎(chǔ)。”京東探索研究院院長(zhǎng)、澳大利亞科學(xué)院院士陶大程博士發(fā)表了自己對(duì)于可信AI的看法。

“從技術(shù)角度來(lái)說(shuō)，可信人工智能的研究可以歸結(jié)為穩(wěn)定性、可解釋性、隱私保護(hù)及公平性四個(gè)方面，從以上四點(diǎn)出發(fā)研究可信人工智能，首要任務(wù)是找到合適的方法來(lái)定量分析、量化人工智能算法、模型和系統(tǒng)在穩(wěn)定性、可解釋性、隱私保護(hù)及公平性方面的能力。”陶大程講到。

目前，穩(wěn)定性可以通過(guò)各類攻擊算法的攻擊成功率或攻擊性能來(lái)衡量;可解釋性中的泛化能力，可以通過(guò)泛化誤差上界來(lái)描述;隱私保護(hù)能力常通過(guò)差分隱私法來(lái)刻畫，也能通過(guò)各類隱私攻擊算法的攻擊成功率或攻擊性能來(lái)評(píng)估;公平性則使用一系列公平?jīng)Q策指標(biāo)來(lái)進(jìn)行衡量，這些指標(biāo)主要分為個(gè)體公平性及群體公平性兩大類。

同時(shí)他強(qiáng)調(diào)，這四個(gè)方面內(nèi)部存在著深層次聯(lián)系，彼此之間并不孤立。因此，在開(kāi)展可信人工智能研究時(shí)，不能僅從單一維度出發(fā)，而需要從整體綜合考慮不同因素之間的影響。這樣，才能更好地進(jìn)行相關(guān)研究，從而推動(dòng)可信人工智能的進(jìn)一步發(fā)展。

陶大程進(jìn)一步表示，不管歐盟的GDPR也好，還是中國(guó)的隱私保護(hù)條例也好，都說(shuō)明用戶對(duì)數(shù)據(jù)使用要更謹(jǐn)慎，說(shuō)明了用戶對(duì)個(gè)人信息的保護(hù)，是有相當(dāng)?shù)臋?quán)利的。“只有將上述四個(gè)能力綜合后，做到明確的責(zé)任，才能找到合適的方式度量可信人工智能。”

未來(lái)可信AI一體化研究將是重要趨勢(shì)

中國(guó)信通院云計(jì)算和大數(shù)據(jù)研究所所長(zhǎng)何寶宏表示：“我們已經(jīng)針對(duì)可信賴的人工智能形成了一些共識(shí)，但是整體來(lái)看還處于一個(gè)初期的探索階段，很多還是碎片化的，理論還不夠，還需要學(xué)術(shù)界、產(chǎn)業(yè)界、政府主管部門等共同努力。”

在可信AI論壇上，中國(guó)信通院聯(lián)合京東探索研究院發(fā)布了《可信人工智能白皮書》，白皮書認(rèn)為，可信人工智能已經(jīng)不再僅僅局限于對(duì)人工智能技術(shù)、產(chǎn)品和服務(wù)本身狀態(tài)的界定，而是逐步擴(kuò)展至一套體系化的方法論，涉及到如何構(gòu)造“可信”人工智能的方方面面。

在陶大程看來(lái)，未來(lái)可信AI一體化研究將是重要趨勢(shì)，而可信能力評(píng)測(cè)也將成為人工智能產(chǎn)業(yè)落地過(guò)程中的重要一環(huán)。從理論與實(shí)踐層面持續(xù)開(kāi)展可信AI研究，將推動(dòng)人工智能產(chǎn)業(yè)新浪潮，幫助人工智能實(shí)現(xiàn)可信，將充分釋放人工智能的潛力，并更好地造福人類社會(huì)。

促進(jìn)可信人工智能發(fā)展的四點(diǎn)倡議

值得一提的是，在論壇上，中國(guó)信通院、中國(guó)科學(xué)院自動(dòng)化研究所中英人工智能倫理與治理研究中心、京東探索研究院、螞蟻集團(tuán)等聯(lián)合發(fā)布了《促進(jìn)可信人工智能發(fā)展倡議》(以下簡(jiǎn)稱“倡議”)。

“倡議”基于當(dāng)前人工智能技術(shù)的高速發(fā)展現(xiàn)狀，對(duì)人工智能伴隨的風(fēng)險(xiǎn)和挑戰(zhàn)，以及可信人工智能合規(guī)化發(fā)展的深度思考，旨在倡導(dǎo)政產(chǎn)學(xué)研各界加快形成國(guó)際協(xié)同治理共識(shí)，促進(jìn)社會(huì)對(duì)可信AI的理解和重視，充分挖掘人工智能的產(chǎn)業(yè)和社會(huì)價(jià)值。

倡議號(hào)召人工智能行業(yè)同仁積極響應(yīng)以下四點(diǎn)倡議：

一是堅(jiān)持技術(shù)向善，確?？尚臕I造福人類。加快可信人工智能技術(shù)研究，前瞻布局可信通用人工智能，打造可控可靠、透明可釋、隱私安全、責(zé)任明確、多元包容的人工智能系統(tǒng);聚焦技術(shù)設(shè)計(jì)、研發(fā)測(cè)試、運(yùn)營(yíng)使用全流程，堅(jiān)持以人為本、技術(shù)向善，構(gòu)建技術(shù)、社會(huì)、文化、價(jià)值融合共生的良性發(fā)展環(huán)境。

二是堅(jiān)持權(quán)責(zé)共擔(dān)，推廣可信AI價(jià)值理念。廣泛宣傳可信人工智能價(jià)值，推動(dòng)人工智能監(jiān)管者、研發(fā)者、制造者和受用者參與不斷完善和踐行可信理念;明確個(gè)人、企業(yè)、行業(yè)各主體責(zé)任、權(quán)益，在可信人工智能的總體框架和基本原則指導(dǎo)下，構(gòu)建相互協(xié)調(diào)、共建共享的敏捷可信機(jī)制。

三是堅(jiān)持健康有序，推動(dòng)可信AI行業(yè)實(shí)踐。持續(xù)推動(dòng)可信人工智能安全/倫理研究，構(gòu)建可信人工智能標(biāo)準(zhǔn)體系，完善人工智能可信體系建設(shè);培育人工智能可信評(píng)估和管控能力，探索人工智能產(chǎn)品應(yīng)用保險(xiǎn)機(jī)制，推動(dòng)建立相互影響、相互支持、相互依賴的健康有序發(fā)展生態(tài)。

四是堅(jiān)持多元包容，凝聚可信AI國(guó)際共識(shí)。支持多元主體共鑄合力、協(xié)調(diào)互動(dòng)，共同構(gòu)建企業(yè)自治、行業(yè)自律、社會(huì)監(jiān)督、政府監(jiān)管的人工智能治理體系;推動(dòng)全球化溝通交流、開(kāi)展協(xié)同化合作研究，在深度對(duì)話、尋求共識(shí)的基礎(chǔ)上，構(gòu)建可信人工智能全球治理合作框架，和衷共濟(jì)應(yīng)對(duì)人類共同挑戰(zhàn)。