人工智能(AI)技術(shù)如今正在廣泛應(yīng)用。人工智能治理之所以重要，是因?yàn)槿斯ぶ悄芸梢垣@得更大的回報(bào)，但面臨很高的風(fēng)險(xiǎn)，如果做錯(cuò)其后果會非常嚴(yán)重。

[[348667]]

組織必須從風(fēng)險(xiǎn)管理的角度進(jìn)行治理。人工智能的主要風(fēng)險(xiǎn)因素包括以下幾個(gè)方面：

• 可以防止人工智能侵犯人們的隱私嗎?
• 能否消除人工智能驅(qū)動(dòng)的應(yīng)用程序中可能產(chǎn)生的社會和經(jīng)濟(jì)偏見?
• 能否確保人工智能驅(qū)動(dòng)的過程對于人們完全透明、可解釋和可理解?
• 是否可以設(shè)計(jì)人工智能算法，以便始終清楚地表明人類對其算法結(jié)果的責(zé)任和義務(wù)?
• 是否可以將道德和道德原則納入人工智能算法中，以便它們將人類的全部考慮因素權(quán)衡可能會導(dǎo)致生死攸關(guān)的決定?
• 是否可以自動(dòng)使人工智能應(yīng)用程序與利益相關(guān)者的價(jià)值觀保持一致，或者至少在特殊情況下獲得抵御的能力，從而防止惡意機(jī)器人在自主決策場景中出現(xiàn)?
• 在不確定性太大而無法證明自主行動(dòng)正當(dāng)性的情況下，能否遏制人工智能驅(qū)動(dòng)的決策?
• 是否可以制定故障保護(hù)程序，以便當(dāng)人工智能自動(dòng)化應(yīng)用程序達(dá)到其能力極限時(shí)，人類可以收回控制權(quán)?
• 即使需要?jiǎng)討B(tài)適應(yīng)不斷變化的環(huán)境，能否確保人工智能驅(qū)動(dòng)的應(yīng)用程序以一致、可預(yù)測的方式運(yùn)行，而沒有意外的副作用?
• 能否保護(hù)人工智能應(yīng)用程序免受旨在利用其底層統(tǒng)計(jì)算法漏洞的敵對攻擊?
• 當(dāng)環(huán)境數(shù)據(jù)與受過訓(xùn)練的環(huán)境有很大出入時(shí)，是否可以設(shè)計(jì)優(yōu)雅地而不是災(zāi)難性地失敗的人工智能算法?

基于軟件的流水線自動(dòng)化的人工智能治理

如果在基于軟件的開發(fā)和運(yùn)營(DevOps)流程中沒有適當(dāng)?shù)乜刂七m當(dāng)?shù)目丶?，那么人工智能治理將毫無用處。

人工智能應(yīng)用程序是由數(shù)據(jù)科學(xué)家、數(shù)據(jù)工程師、數(shù)據(jù)管理員和其他人組成的團(tuán)隊(duì)在復(fù)雜的工作流程中構(gòu)建、培訓(xùn)、部署和管理的。為了滿足這一需求，許多組織正在將人工智能治理控制構(gòu)建到其MLOps過程中。本質(zhì)上，這需要策略驅(qū)動(dòng)的流程自動(dòng)化，這些流程管理數(shù)據(jù)、統(tǒng)計(jì)模型、元數(shù)據(jù)，以及用于構(gòu)建、培訓(xùn)和部署人工智能應(yīng)用程序的其他構(gòu)件。它還需要工具來監(jiān)視人工智能應(yīng)用程序在其生命周期中的使用、行為和結(jié)果。

任何人工智能驅(qū)動(dòng)過程的典型風(fēng)險(xiǎn)是不知道組織是否可以信任一個(gè)已部署的統(tǒng)計(jì)模型來準(zhǔn)確可靠地完成分配的任務(wù)。如果一個(gè)統(tǒng)計(jì)模型的預(yù)測適合度下降到無法完成其指定任務(wù)(如識別人臉、理解人類語言或預(yù)測客戶行為)的程度，那么對于構(gòu)建和部署它的組織來說，這基本上是無用的。

因此，人工智能治理的核心功能是模型保證。這是一種確定人工智能應(yīng)用程序的機(jī)器學(xué)習(xí)模型是否能夠預(yù)測適合其分配任務(wù)的能力，如果不適合，則將其重新放回原處。

然而，預(yù)測精度可能是一個(gè)難以保證的性能指標(biāo)。人工智能的統(tǒng)計(jì)模型通常以人工神經(jīng)網(wǎng)絡(luò)的形式實(shí)現(xiàn)，可能是如此的復(fù)雜和神秘，以至于它們掩蓋了它們實(shí)際上是如何驅(qū)動(dòng)自動(dòng)推理的。同樣令人擔(dān)憂的是，基于統(tǒng)計(jì)的應(yīng)用程序可能會無意中混淆其自動(dòng)決策可能產(chǎn)生的任何偏見和其他不利后果的責(zé)任。此外，這些概率模型可能很少被評估和重新訓(xùn)練，導(dǎo)致曾經(jīng)適合特定目的的模型現(xiàn)在已經(jīng)失去了預(yù)測能力。

在MLOps平臺中嵌入人工智能模型保證

將業(yè)務(wù)押注在人工智能驅(qū)動(dòng)流程上的組織必須考慮，是將模型保證作為其MLOps平臺的一項(xiàng)嵌入式功能，還是從專注于這一令人興奮的利基市場的初創(chuàng)供應(yīng)商那里獲得。

幸運(yùn)的是，越來越多的數(shù)據(jù)科學(xué)DevOps環(huán)境提供了可靠的模型保證。這些工具的最新一代利用云原生基礎(chǔ)設(shè)施來部署和管理穩(wěn)定的人工智能模型流，并且代碼構(gòu)建一直到邊緣。商業(yè)產(chǎn)品中的主要產(chǎn)品是：

• 谷歌云人工智能平臺提供持續(xù)評估等模型質(zhì)量保證功能，讓數(shù)據(jù)科學(xué)家將模型預(yù)測與實(shí)際情況標(biāo)簽進(jìn)行比較，以獲得持續(xù)反饋，并優(yōu)化模型精度。
• H2O.ai無人駕駛?cè)斯ぶ悄芴峁┝素S富的模型質(zhì)量保證功能。它支持分析一個(gè)模型是否會對不同的人口群體產(chǎn)生不同的不利結(jié)果，即使它的設(shè)計(jì)并沒有考慮到這種結(jié)果。它可以自動(dòng)監(jiān)控已部署模型的預(yù)測衰減;為A/B測試建立替代模型的基準(zhǔn);以及在需要重新校準(zhǔn)、重新培訓(xùn)和以其他方式維護(hù)模型以使其為生產(chǎn)做好準(zhǔn)備時(shí)向系統(tǒng)管理員發(fā)出警報(bào)。
• Microsoft Azure機(jī)器學(xué)習(xí)MLOps可以通知機(jī)器學(xué)習(xí)生命周期中的事件并發(fā)送警報(bào)，例如實(shí)驗(yàn)完成、模型注冊、模型部署和數(shù)據(jù)漂移檢測。它可以監(jiān)視機(jī)器學(xué)習(xí)應(yīng)用程序的模型特定指標(biāo)，并提供機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施的監(jiān)視和警報(bào)。它還可以根據(jù)新數(shù)據(jù)和其他操作和業(yè)務(wù)因素自動(dòng)重新培訓(xùn)、更新和重新部署模型。
• Amazon SageMaker Model Monitor持續(xù)監(jiān)視AWS Sagemaker云計(jì)算服務(wù)中的機(jī)器學(xué)習(xí)模型，檢測諸如數(shù)據(jù)漂移之類的偏差，這些偏差會隨著時(shí)間的推移降低模型性能，并警告用戶采取補(bǔ)救措施，例如審核或再培訓(xùn)模型?？梢园才疟O(jiān)視作業(yè)按常規(guī)節(jié)奏運(yùn)行，可以將摘要指標(biāo)推送到Amazon CloudWatch以設(shè)置警報(bào)和觸發(fā)器以采取糾正措施，并支持Amazon SageMaker支持的多種實(shí)例類型。
• Superwise的人工智能保證提供了一個(gè)實(shí)時(shí)平臺，用于監(jiān)控和維護(hù)已部署人工智能模型的準(zhǔn)確性。它使涉眾能夠在部署的人工智能模型產(chǎn)生負(fù)面業(yè)務(wù)影響之前發(fā)現(xiàn)模型衰退和其他問題。它標(biāo)記了模型的不精確性，這些誤差源于人工智能模型的數(shù)據(jù)變化。它還可以捕捉到與模型部署到的業(yè)務(wù)環(huán)境中的變化相關(guān)聯(lián)的不精確性。它為數(shù)據(jù)科學(xué)團(tuán)隊(duì)提供了前瞻性的建議，以采取人工操作來保持模型的準(zhǔn)確性、公正性以及其他方面的適用性。它還可以自動(dòng)執(zhí)行一些糾正措施，以防止模型漂移到潛在的次優(yōu)領(lǐng)域。

結(jié)論

雖然人工智能并不是公眾的威脅，但現(xiàn)實(shí)情況是，可能會看到更多的司法管轄區(qū)加強(qiáng)了這項(xiàng)技術(shù)的監(jiān)管規(guī)定。

隨著人們進(jìn)入20世紀(jì)20年代，從最好的和最壞的意義上講，人工智能應(yīng)用將是最具顛覆性的技術(shù)。如果擴(kuò)散不受監(jiān)控和控制，則錯(cuò)誤的人工智能模型將給社會造成嚴(yán)重破壞。人工智能的某些風(fēng)險(xiǎn)來自技術(shù)特定構(gòu)造中的設(shè)計(jì)限制。其他原因可能是由于對實(shí)時(shí)人工智能應(yīng)用程序的運(yùn)行時(shí)管理不足。還有其他一些可能是該技術(shù)難以理解的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和人工智能依賴的其他統(tǒng)計(jì)模型的“黑盒”復(fù)雜性所固有的。

為了減輕這些風(fēng)險(xiǎn)，組織將越來越多地要求在每個(gè)部署場景中對這些模型的性能進(jìn)行自動(dòng)化治理。