麻省理工學(xué)院（MIT）研究人員近日發(fā)布了一個(gè)號(hào)稱迄今為止最全面的AI風(fēng)險(xiǎn)動(dòng)態(tài)數(shù)據(jù)庫(kù)，涵蓋了43大AI風(fēng)險(xiǎn)類別共計(jì)777種AI風(fēng)險(xiǎn)。

這是業(yè)界首次嘗試全面整理、分析和提取人工智能風(fēng)險(xiǎn)，并整合成一個(gè)公開(kāi)可訪問(wèn)、全面、可擴(kuò)展的分類風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)。為業(yè)界統(tǒng)一定義、審計(jì)和管理人工智能風(fēng)險(xiǎn)奠定了基礎(chǔ)。

對(duì)于從事AI安全和治理的專業(yè)人士來(lái)說(shuō)，這是一個(gè)不可或缺的知識(shí)庫(kù)，可用于創(chuàng)建自己（所在企業(yè)）的個(gè)性化風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)。

AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)

MIT科技評(píng)論的一篇文章指出，AI技術(shù)應(yīng)用面臨多種危險(xiǎn)，系統(tǒng)可能存在偏見(jiàn)、傳播錯(cuò)誤信息，甚至具有成癮性。這些風(fēng)險(xiǎn)只是冰山一角，AI還有可能被用于制造生物或化學(xué)武器，甚至在未來(lái)失控，造成難以挽回的災(zāi)難性后果。

AI風(fēng)險(xiǎn)全景圖

為了滿足AI風(fēng)險(xiǎn)治理的迫切需求，MIT的計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）下屬的FutureTech團(tuán)隊(duì)著手開(kāi)發(fā)了“全覆蓋”AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)。

據(jù)CSAIL網(wǎng)站發(fā)布的新聞，研究人員在現(xiàn)有的AI風(fēng)險(xiǎn)框架中發(fā)現(xiàn)了大量嚴(yán)重漏洞，現(xiàn)有的最詳盡的AI風(fēng)險(xiǎn)框架（例如NIST、谷歌和歐盟發(fā)布的框架）也僅涵蓋了所有風(fēng)險(xiǎn)的約70%。因此，項(xiàng)目負(fù)責(zé)人Peter Slattery博士擔(dān)心決策者可能會(huì)因?yàn)檎J(rèn)知偏差而忽略重要問(wèn)題，從而形成集體決策盲區(qū)。

MIT的AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)旨在為學(xué)者、安全審計(jì)人員、政策制定者、AI公司和公眾提供關(guān)于AI風(fēng)險(xiǎn)“全景圖”，為研究、開(kāi)發(fā)和治理AI系統(tǒng)提供了一個(gè)統(tǒng)一的參考框架。該數(shù)據(jù)庫(kù)由三部分組成：AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)、AI風(fēng)險(xiǎn)因果分類法以及AI風(fēng)險(xiǎn)領(lǐng)域分類法，具體如下：

• AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)：記錄了從43種現(xiàn)有框架中提取的700多種風(fēng)險(xiǎn)，并附有相關(guān)引用和頁(yè)碼。
• AI風(fēng)險(xiǎn)因果分類法：分類AI風(fēng)險(xiǎn)發(fā)生的方式、時(shí)間和原因。
• AI風(fēng)險(xiǎn)領(lǐng)域分類法：將風(fēng)險(xiǎn)分為七大領(lǐng)域和23個(gè)子領(lǐng)域，涵蓋歧視與有害內(nèi)容、隱私與安全、虛假信息、惡意行為者及誤用、人機(jī)交互、社會(huì)經(jīng)濟(jì)與環(huán)境危害、AI系統(tǒng)安全與故障等。

AI治理的利器

Info-Tech研究集團(tuán)首席研究總監(jiān)Brian Jackson認(rèn)為，AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)對(duì)負(fù)責(zé)AI治理的企業(yè)領(lǐng)導(dǎo)者來(lái)說(shuō)極具價(jià)值。它不僅幫助企業(yè)識(shí)別新的AI風(fēng)險(xiǎn)，還可以作為制定具體治理策略的基礎(chǔ)工具。此外，該數(shù)據(jù)庫(kù)以Google Sheets的形式提供，便于各組織根據(jù)自己的需求進(jìn)行定制。

AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)的功能和適用場(chǎng)景如下：

通用功能：

• 吸納新成員進(jìn)入AI風(fēng)險(xiǎn)領(lǐng)域。
• 為復(fù)雜項(xiàng)目奠定基礎(chǔ)。
• 為開(kāi)發(fā)更細(xì)化或特定的分類體系提供信息支持（例如，系統(tǒng)性風(fēng)險(xiǎn)或歐盟相關(guān)的虛假信息風(fēng)險(xiǎn)）。
• 利用分類體系進(jìn)行優(yōu)先級(jí)排序（如通過(guò)專家評(píng)分）、綜合分析（如進(jìn)行審查）或比較（如跨領(lǐng)域探討公眾關(guān)注點(diǎn)）。
• 識(shí)別被忽視的領(lǐng)域（如AI的福利和權(quán)利）。

適用人群和場(chǎng)景：

• 政策制定者：用于制定法規(guī)和共享標(biāo)準(zhǔn)的開(kāi)發(fā)。
• 審計(jì)人員：開(kāi)發(fā)AI系統(tǒng)的審計(jì)標(biāo)準(zhǔn)。
• 學(xué)術(shù)界：識(shí)別研究空白，開(kāi)發(fā)教育和培訓(xùn)。
• 行業(yè)：內(nèi)部評(píng)估和準(zhǔn)備AI風(fēng)險(xiǎn)，制定相關(guān)戰(zhàn)略、教育和培訓(xùn)。

盡管數(shù)據(jù)庫(kù)還存在一些限制，例如依賴現(xiàn)有的43種分類法，可能遺漏新興的特定領(lǐng)域風(fēng)險(xiǎn)，但MIT的研究人員表示，這項(xiàng)工作為未來(lái)的AI風(fēng)險(xiǎn)評(píng)估奠定了基礎(chǔ)，促進(jìn)了更協(xié)調(diào)和全面的風(fēng)險(xiǎn)管理方法。

展望未來(lái)：AI治理的新篇章

面對(duì)AI技術(shù)的野蠻生長(zhǎng)和潛在風(fēng)險(xiǎn)的快速累積，越來(lái)越多的企業(yè)和機(jī)構(gòu)在部署AI應(yīng)用時(shí)更加謹(jǐn)慎，并渴望提高嚴(yán)重滯后的AI風(fēng)險(xiǎn)治理能力。

MIT發(fā)布的AI風(fēng)險(xiǎn)數(shù)據(jù)庫(kù)為AI的健康發(fā)展提供了全方位的風(fēng)險(xiǎn)地圖，標(biāo)志著AI治理的新篇章已經(jīng)開(kāi)啟。

Gartner副總裁分析師Bart Willemsen指出，這項(xiàng)研究是邁向更深入理解AI技術(shù)風(fēng)險(xiǎn)的重要一步。他期待未來(lái)的版本能夠不僅列出AI風(fēng)險(xiǎn)，還能提供相關(guān)的緩解措施，為行業(yè)應(yīng)用提供最佳實(shí)踐指南。