人工智能治理涉及企業(yè)內(nèi)的許多功能領(lǐng)域——數(shù)據(jù)隱私、算法偏差、合規(guī)性、道德規(guī)范等等。因此，要做好人工智能技術(shù)使用的治理工作需要在多個(gè)層面上采取行動(dòng)。

塔塔咨詢(xún)服務(wù)公司數(shù)據(jù)和分析業(yè)務(wù)主管Kamlesh Mhashilkar認(rèn)為：“這不僅僅涉及IT層面或者項(xiàng)目層面。”他說(shuō)，人工智能治理也發(fā)生在政府、董事會(huì)和首席安全官等層面。

[[410104]]

例如，在醫(yī)療健康領(lǐng)域，人工智能模型必須通過(guò)嚴(yán)格的審核和檢查。許多其他行業(yè)也有適用的法規(guī)。Mhashilkar說(shuō)：“在董事會(huì)層面，這關(guān)乎到經(jīng)濟(jì)行為。引入人工智能時(shí)，會(huì)面臨哪些風(fēng)險(xiǎn)?”

至于高管，人工智能議程是有目的的。例如，首席財(cái)務(wù)官要考慮股東價(jià)值和盈利能力。首席信息官和首席數(shù)據(jù)官也是關(guān)鍵的相關(guān)方，營(yíng)銷(xiāo)與合規(guī)主管當(dāng)然也是。更不用說(shuō)客戶和供應(yīng)商了。

構(gòu)建人工智能治理戰(zhàn)略時(shí)，并非所有企業(yè)都需要在各個(gè)方面采取行動(dòng)。盡管如此，所有企業(yè)都在或者很快將要使用人工智能和相關(guān)技術(shù)，即使這些技術(shù)只是嵌入到他們使用的第三方工具和服務(wù)中。

在沒(méi)有適當(dāng)監(jiān)督的情況下使用人工智能時(shí)，它有可能犯錯(cuò)，導(dǎo)致?lián)p害企業(yè)運(yùn)營(yíng)、侵犯隱私權(quán)、違反行業(yè)法規(guī)，或者會(huì)對(duì)企業(yè)造成不良聲譽(yù)。

以下介紹有遠(yuǎn)見(jiàn)的企業(yè)將人工智能項(xiàng)目從試點(diǎn)擴(kuò)展到實(shí)際使用時(shí)，怎樣開(kāi)始解決人工智能治理問(wèn)題，重點(diǎn)關(guān)注數(shù)據(jù)質(zhì)量、算法性能、合規(guī)性和倫理道德等。

人工智能的倫理道德問(wèn)題

如今，很少有哪個(gè)領(lǐng)域比面部識(shí)別更充斥著倫理道德問(wèn)題。濫用面部識(shí)別的可能性很大，提供面部識(shí)別技術(shù)的企業(yè)受到了公眾的抵制，有時(shí)還受到自己?jiǎn)T工的抵制。

Patriot One科技公司的子公司Xtract AI就是這種情況，該公司使用圖像識(shí)別來(lái)發(fā)現(xiàn)攜帶武器的人。

Xtract的運(yùn)營(yíng)副總裁Justin Granek說(shuō)，這項(xiàng)技術(shù)還可以用于其他場(chǎng)合，比如識(shí)別那些不戴口罩，不遵守社交距離準(zhǔn)則的人。

他說(shuō)：“倫理道德是一個(gè)主要話題。對(duì)我們來(lái)說(shuō)，很多事情都是自下而上的。我們的員工在說(shuō)，‘我們?cè)谧鍪裁?’，并強(qiáng)烈要求領(lǐng)導(dǎo)層制定我們的治理政策。”

他說(shuō)：“客戶有自己的一套要求，我們得找到平衡點(diǎn)。我們的一家客戶是加拿大國(guó)防部，還有些客戶來(lái)自醫(yī)療健康行業(yè)。他們會(huì)從不同的角度看待這個(gè)問(wèn)題。”

他說(shuō)，最大的問(wèn)題是為哪些客戶工作，以及這項(xiàng)技術(shù)應(yīng)該做什么樣的工作。這涉及到關(guān)乎企業(yè)使命的重大決策。還要解決一些技術(shù)問(wèn)題，這些問(wèn)題都是從數(shù)據(jù)開(kāi)始的。

正確獲取數(shù)據(jù)

算法偏差的最大來(lái)源是數(shù)據(jù)集。例如，對(duì)于面部識(shí)別，數(shù)據(jù)集一直沒(méi)能很好地代表一般人群。Xtract AI運(yùn)營(yíng)副總裁Justin Granek說(shuō)：“它們偏向于白人男性。我們正在糾正，但還有很多工作要做。”

專(zhuān)家可以幫助解決數(shù)據(jù)偏差問(wèn)題，商業(yè)數(shù)據(jù)提供商正在努力填補(bǔ)他們提供的數(shù)據(jù)中的空白。Granek說(shuō)，也有創(chuàng)建合成數(shù)據(jù)集的方法，但解決辦法往往歸結(jié)為去獲得更好的數(shù)據(jù)。

對(duì)于Xtract的檢測(cè)算法來(lái)說(shuō)，這意味著建立實(shí)驗(yàn)室，放上各種各樣的退役槍支，讓很多人帶著槍以不同的方式，在不同的地方走來(lái)走去。

他說(shuō)：“一種天真的做法是，就在好萊塢大片里尋找人們持槍行走的畫(huà)面，但這并不能代表全部。”

相反，Xtract盡力收集大量的個(gè)人信息作為訓(xùn)練數(shù)據(jù)。Granek說(shuō)：“沒(méi)有規(guī)定誰(shuí)可以攜帶武器。有一些學(xué)生，還有更年長(zhǎng)的個(gè)體，我們有很多不同的個(gè)體。”

對(duì)于一些人工智能應(yīng)用程序，準(zhǔn)確、有代表性的數(shù)據(jù)集決定了生存與否，具有重大的道德和倫理意義。但即使不良數(shù)據(jù)集的影響不會(huì)導(dǎo)致問(wèn)題，它們?nèi)钥赡芙o企業(yè)帶來(lái)運(yùn)營(yíng)或者財(cái)務(wù)損害，或者導(dǎo)致監(jiān)管與合規(guī)問(wèn)題。

世界上最大的建筑材料分銷(xiāo)商、總部位于墨西哥的Cemex公司便非常關(guān)注后一個(gè)問(wèn)題。這家公司已有100多年的歷史，正通過(guò)在供應(yīng)鏈管理和運(yùn)營(yíng)中使用人工智能來(lái)重塑自我。

大約三年前，Cemex公司開(kāi)始研究人工智能及其相關(guān)技術(shù)，以擴(kuò)大市場(chǎng)份額，改善客戶服務(wù)，提高利潤(rùn)。

該公司首席人工智能官Nir Kaldero介紹說(shuō)：“去年和今年，我們實(shí)際上看到了人工智能在全球范圍內(nèi)的價(jià)值——而不僅僅是某個(gè)地方的小規(guī)模試點(diǎn)。”

他說(shuō)，隨著人工智能已經(jīng)牢固地融入企業(yè)基因中，Cemex意識(shí)到有必要圍繞人工智能建立治理結(jié)構(gòu)。

一切都從數(shù)據(jù)開(kāi)始。Kaldero說(shuō)：“沒(méi)有好的信息架構(gòu)，就沒(méi)有好的、可靠的人工智能。沒(méi)有好的信息，就不可能有好的、可靠的模型。”

在Cemex公司，數(shù)據(jù)治理涉及安全、監(jiān)控、隱私、合規(guī)和倫理道德規(guī)范。公司需要知道數(shù)據(jù)的位置，在哪里以及怎樣使用，是否符合監(jiān)管要求以及有沒(méi)有偏見(jiàn)。

Kaldero說(shuō)，Cemex依靠Snowflake數(shù)據(jù)平臺(tái)來(lái)管理數(shù)據(jù)，利用Satori來(lái)管理訪問(wèn)，還有一位高管專(zhuān)門(mén)負(fù)責(zé)數(shù)據(jù)，領(lǐng)導(dǎo)治理團(tuán)隊(duì)的另一位高管則負(fù)責(zé)治理工作。

建立正確的模型

除了數(shù)據(jù)治理之外，Cemex公司還開(kāi)始圍繞人工智能模型和結(jié)果進(jìn)行治理。Kaldero說(shuō)：“這是新生事物。不僅僅是為了Cemex，也是為了全世界。”

這項(xiàng)任務(wù)由Kaldero的人工智能和數(shù)據(jù)科學(xué)小組以及首席信息官小組共同承擔(dān)。

Cemex公司目前使用人工智能來(lái)預(yù)測(cè)零件需求，這樣就可以通過(guò)與供應(yīng)商達(dá)成更好的交易來(lái)節(jié)省資金。公司還使用了人工智能來(lái)安排卡車(chē)的路線和調(diào)度，以及銷(xiāo)售和定價(jià)。如果這些計(jì)算中有任何一項(xiàng)不正確，該公司將蒙受巨額損失。

因此，為了防止模型漂移和算法偏差，Cemex公司使用了西雅圖Algorithmia公司的技術(shù)。

KenSci是另一家關(guān)注人工智能模型下游后果的公司。這家總部位于西雅圖的公司利用人工智能來(lái)分析醫(yī)療健康數(shù)據(jù)，在這一領(lǐng)域，準(zhǔn)確的人工智能模型真的是人命關(guān)天。

該公司的首席數(shù)據(jù)科學(xué)家Muhammad Aurangzeb Ahmad說(shuō)：“我們總是首先與具有代表性和多樣化的相關(guān)方一起評(píng)估人工智能模型的目標(biāo)。”為了確保這些模型是透明和負(fù)責(zé)任的，其核心組成部分包括了可解釋性。

他說(shuō)：“我們甚至發(fā)布了開(kāi)源的Python包fairMLHealth，任何人都可以用它來(lái)衡量機(jī)器學(xué)習(xí)模型的公平性。”

Ahmad還建議檢查人工智能模型在不同群體中的表現(xiàn)，以確保公平地對(duì)待其他弱勢(shì)群體。

他說(shuō)：“人工智能模型的透明性和可解釋性使得它們更容易被最終用戶使用和信任。而且更容易接受檢查，并在需要時(shí)予以糾正。”

人工智能與倫理道德

在制定治理策略時(shí)要考慮的另一個(gè)關(guān)鍵領(lǐng)域是人工智能使用的倫理道德。Ahmad說(shuō)：“立法沒(méi)有跟上技術(shù)的發(fā)展。機(jī)器學(xué)習(xí)系統(tǒng)的創(chuàng)造者有責(zé)任結(jié)合倫理道德目標(biāo)來(lái)衡量系統(tǒng)的價(jià)值。當(dāng)需要權(quán)衡時(shí)，我們應(yīng)該慎之又慎。”

數(shù)字服務(wù)咨詢(xún)公司Nerdery的首席技術(shù)官Joe Tobolski認(rèn)為，企業(yè)越來(lái)越意識(shí)到人工智能可能帶來(lái)倫理道德風(fēng)險(xiǎn)。他說(shuō)：“他們是否完全清楚自己運(yùn)行的是什么系統(tǒng)，隱藏在背后的訓(xùn)練數(shù)據(jù)是什么?可能不會(huì)。”

很少有企業(yè)在他們的人工智能項(xiàng)目、數(shù)據(jù)源和技術(shù)使用上采用明確的人工智能倫理道德規(guī)范。他說(shuō)：“這就是我希望看到我們?nèi)プ龅氖虑?mdash;—有一個(gè)強(qiáng)大的、規(guī)范性的框架來(lái)規(guī)避這些問(wèn)題。”

Cemex是一家有意限制人工智能使用的企業(yè)，目的是盡量減少可能出現(xiàn)的倫理道德問(wèn)題。例如，Kaldero說(shuō)，公司會(huì)優(yōu)先考慮改善服務(wù)和幫助客戶的項(xiàng)目，而不是那些簡(jiǎn)單地減少員工數(shù)量的項(xiàng)目。

他說(shuō)：“企業(yè)的核心是員工，而不是技術(shù)。我們可以實(shí)現(xiàn)所有客戶呼叫中心的自動(dòng)化，但這不符合我們的利益。Cemex非常自豪能成為一家為人們提供就業(yè)機(jī)會(huì)的用人單位。在我們企業(yè)的使命中，有這些是很美妙的。”

選擇人工智能項(xiàng)目是為了對(duì)員工隊(duì)伍產(chǎn)生積極影響。以安全為例。Kaldero說(shuō)：“這對(duì)人工智能來(lái)說(shuō)是一個(gè)巨大的創(chuàng)舉。Cemex已經(jīng)大大減少了事故，幾乎為零。而要想完全歸零的方法就是通過(guò)圖像識(shí)別。”

人工智能治理策略

對(duì)于總部位于馬薩諸塞州斯普林菲爾德的人壽保險(xiǎn)公司MassMutual來(lái)說(shuō)，人工智能治理是建立在一套不斷發(fā)展的數(shù)據(jù)倫理原則基礎(chǔ)上的，這些原則指導(dǎo)著行動(dòng)和決策。

該公司的數(shù)據(jù)、戰(zhàn)略和架構(gòu)主管Sears Merritt表示：“我們專(zhuān)門(mén)制定了一套原則，用人工智能來(lái)發(fā)展業(yè)務(wù)，使企業(yè)價(jià)值觀和保單持有人的利益相一致。我們還成立了一個(gè)部門(mén)，通過(guò)建立政策框架來(lái)監(jiān)督人工智能的使用。”

大約一年前，MassMutual開(kāi)始研究人工智能倫理道德和治理，當(dāng)時(shí)該公司意識(shí)到需要證明并確保使用人工智能是為了保單持有人的利益。

Merritt現(xiàn)在監(jiān)管一個(gè)由6人組成的部門(mén)，其中包括人工智能倫理道德和治理顧問(wèn)，他們跟蹤算法是否遵循治理原則以及它們隨時(shí)間怎樣變化，為公司已經(jīng)遵循的方法建立一種正式的結(jié)構(gòu)。

Merrit說(shuō)：“我們認(rèn)為，我們的工作會(huì)對(duì)所有相關(guān)方產(chǎn)生巨大影響”，他建議從符合企業(yè)價(jià)值觀和客戶利益的核心原則入手，與法律、合規(guī)、道德和商業(yè)領(lǐng)域的合作伙伴合作，堅(jiān)持實(shí)施下去。

他介紹說(shuō)，MassMutual接下來(lái)計(jì)劃是將其框架推廣為業(yè)內(nèi)最佳實(shí)踐。

護(hù)欄的重要性

博思艾倫咨詢(xún)公司(Booz Allen Hamilton)高級(jí)副總裁John Larson說(shuō)，我們應(yīng)該熟悉人工智能治理的很多最佳實(shí)踐。

他說(shuō)：“我干這行已經(jīng)25年了。開(kāi)發(fā)軟件和算法的原理，以前都有。而沒(méi)有的是數(shù)據(jù)的速度、處理能力和學(xué)習(xí)算法。”

人工智能系統(tǒng)對(duì)訓(xùn)練數(shù)據(jù)的需求非常大，使用的數(shù)據(jù)集通常比以往任何時(shí)候都大，而且，由于當(dāng)今企業(yè)的數(shù)字化，數(shù)據(jù)正以前所未有的速度源源不斷的從網(wǎng)站、網(wǎng)絡(luò)傳感器、物聯(lián)網(wǎng)設(shè)備和其他來(lái)源傳入。

處理這些數(shù)據(jù)的能力也比以往任何時(shí)候都要高得多，這在很大程度上要?dú)w功于幾乎可以無(wú)限擴(kuò)展的云資源。

最后，一些人工智能系統(tǒng)的反饋特性意味著，它們實(shí)際上是靠自己邊干邊學(xué)，而這類(lèi)學(xué)習(xí)可以把它們帶到意想不到的方向，速度之快讓人類(lèi)無(wú)法作出反應(yīng)。

Larson說(shuō)：“25年前的治理模式——原則是一樣的，但它們不能完全適應(yīng)我們所面臨的挑戰(zhàn)”，他補(bǔ)充說(shuō)，解決方案是在人工智能系統(tǒng)中構(gòu)建自動(dòng)防護(hù)措施。

例如，開(kāi)發(fā)人員可以設(shè)置護(hù)欄。如果模型的預(yù)測(cè)精度偏離了預(yù)定目標(biāo)，或者模型在設(shè)計(jì)參數(shù)范圍內(nèi)停止運(yùn)行，則可能需要某種形式的干預(yù)。同樣，如果進(jìn)入系統(tǒng)的數(shù)據(jù)不再反映所需的特性，則可能會(huì)發(fā)出警報(bào)，要求重新評(píng)估數(shù)據(jù)源，或者選擇更適合傳入數(shù)據(jù)的不同模型。

還可以通過(guò)其他方式監(jiān)控人工智能系統(tǒng)。例如，有助于在問(wèn)題導(dǎo)致監(jiān)管罰款或者出現(xiàn)公共關(guān)系災(zāi)難之前發(fā)現(xiàn)問(wèn)題。

Larson說(shuō)：“已經(jīng)開(kāi)發(fā)出了一些工具——谷歌有，微軟也有，可以評(píng)估一個(gè)模型是否對(duì)某些東西有偏見(jiàn)。在博思艾倫，我們也在開(kāi)發(fā)其中一些工具包，并試圖為我們所有的數(shù)據(jù)科學(xué)家提供工具。”