人工智能（Artificial Intelligence，AI）發(fā)軔于20世紀(jì)50年代，至今已經(jīng)歷了三次發(fā)展浪潮，不管是實(shí)驗(yàn)室階段還是大規(guī)模產(chǎn)業(yè)化階段，研究者們幾十年如一日不變的都是推進(jìn)其技術(shù)的進(jìn)步，希望機(jī)器真的有一天能具有一般人類智慧，執(zhí)行全方位的人類認(rèn)知能力。

近年來(lái)，為了讓AI更加健康發(fā)展，有一項(xiàng)技術(shù)領(lǐng)域正在成為產(chǎn)業(yè)界和學(xué)術(shù)界研究的重點(diǎn)：可信AI，即將人類社會(huì)的正面價(jià)值觀，通過(guò)技術(shù)賦予到人工智能上，包括可解釋、公平性、隱私保護(hù)和公平性。

從學(xué)術(shù)研究層面來(lái)說(shuō)，可信AI主要是針對(duì)算法和系統(tǒng)層面的研究，包括安全性/魯棒性、可解釋性、隱私性、公平性、可審計(jì)性/問(wèn)責(zé)性、環(huán)境保護(hù)?？山忉屝园▽W(xué)習(xí)方法或模型的理論可解釋、算法可解釋、行為可解釋；魯棒性主要針對(duì)模型穩(wěn)定性研究、攻擊模型和防守模型；隱私保護(hù)指的是攻擊與保護(hù)方法直接的博弈，如差分隱私、多中心聯(lián)邦學(xué)習(xí)；公平性針對(duì)的是各種數(shù)據(jù)、模型的偏置研究，平等和公正的平衡；而環(huán)保指的是尋求高能效策略，更高能效的計(jì)算硬件。

與可信AI學(xué)術(shù)研究不同，企業(yè)更多是針對(duì)當(dāng)下的問(wèn)題，提出解決方案。如2015年，螞蟻集團(tuán)啟動(dòng)基于“端特征”的手機(jī)丟失風(fēng)險(xiǎn)研究項(xiàng)目，旨在用AI技術(shù)保護(hù)用戶的隱私安全。為了解決了AI中的公平性（Fairness），IBM于2018年開(kāi)發(fā)了多個(gè)AI可信工具，在AI系統(tǒng)中采用不帶偏見(jiàn)的數(shù)據(jù)集和模型，從而避免對(duì)特定群體的不公平。產(chǎn)業(yè)界對(duì)可信AI的應(yīng)用加更加苛刻，容錯(cuò)率更高。很多可信AI白皮書(shū)提到，可信AI真正落地起來(lái)，需要放到生產(chǎn)流程里面，讓其成為一種機(jī)制，發(fā)揮技術(shù)的約束作用。

青年學(xué)生是重要的技術(shù)人才儲(chǔ)備。對(duì)于研究可信AI的青年學(xué)生來(lái)說(shuō)，對(duì)從事可信AI怎么準(zhǔn)備，在他們現(xiàn)在的學(xué)習(xí)和生活中，就應(yīng)了解學(xué)術(shù)的前沿，以及業(yè)界最新技術(shù)趨勢(shì)，思考哪些技術(shù)可以應(yīng)用到哪些問(wèn)題上，主動(dòng)觀察了解所處的世界，以及業(yè)界的需求痛點(diǎn)和技術(shù)瓶頸。比如，最近一檔可信AI實(shí)戰(zhàn)科技真人秀，就聯(lián)動(dòng)了全國(guó)一些頂尖高校，通過(guò)可信AI在工業(yè)界“科技反詐”當(dāng)中的應(yīng)用，還原了可信AI技術(shù)在實(shí)際應(yīng)用中的能力，把學(xué)術(shù)界和產(chǎn)業(yè)界正在做的事，通過(guò)大家都能理解的形式打通起來(lái)，讓技術(shù)從業(yè)者、技術(shù)研究者都深度參與其中。

做AI研究，“復(fù)雜度”是一個(gè)關(guān)鍵詞。環(huán)境復(fù)雜度、任務(wù)復(fù)雜度、系統(tǒng)復(fù)雜度決定了AI的水平。對(duì)它的研究可以揭示AI產(chǎn)生原理，也可以回答AI的終極問(wèn)題，即對(duì)人類命運(yùn)的最終影響。未來(lái)可信AI研究，也要從復(fù)雜度分析來(lái)看AI為人類帶來(lái)的價(jià)值，更需要學(xué)界和產(chǎn)業(yè)界共同努力來(lái)推動(dòng)。