你的AI很智能，但它安全嗎?探索保護(hù)你的企業(yè)和客戶的必備治理策略。

要點(diǎn)：

? 治理至關(guān)重要：如果沒(méi)有適當(dāng)?shù)腁I治理，公司可能會(huì)面臨合規(guī)失敗和失去客戶信任的風(fēng)險(xiǎn)。

? 策略優(yōu)先：一個(gè)明確的AI策略和治理框架可以在創(chuàng)新與混亂之間劃清界限。

? 合規(guī)推動(dòng)信任：強(qiáng)有力的AI治理不僅能滿足監(jiān)管要求，還能增強(qiáng)客戶信任和競(jìng)爭(zhēng)優(yōu)勢(shì)。

大多數(shù)技術(shù)的一個(gè)反復(fù)出現(xiàn)的趨勢(shì)是，它們通常在廣泛應(yīng)用之前，相關(guān)法律還未完全確立。對(duì)于技術(shù)的治理——尤其是那些被廣泛使用的技術(shù)——對(duì)于保護(hù)人們、公司及其數(shù)據(jù)免受濫用至關(guān)重要。

AI似乎也不例外，但它是“新瓶裝舊酒”，還是“舊瓶裝新酒”呢?

盡管AI已經(jīng)存在了大約60年，但由于其多次的反復(fù)發(fā)展，直到最近才逐漸受到關(guān)注。自從ChatGPT于2022年底出現(xiàn)以來(lái)，許多公司開(kāi)始開(kāi)發(fā)用于各種應(yīng)用的AI模型。

這種技術(shù)的使用可能帶來(lái)許多風(fēng)險(xiǎn)，包括暴露敏感數(shù)據(jù)、違反知識(shí)產(chǎn)權(quán)法、產(chǎn)生明顯錯(cuò)誤的結(jié)果以及違反現(xiàn)有或正在制定的法規(guī)。因此，AI的應(yīng)用必須謹(jǐn)慎。

為何AI治理至關(guān)重要

直到最近，AI幾乎是數(shù)據(jù)科學(xué)家和其他數(shù)據(jù)專家的專屬領(lǐng)域。因?yàn)閿?shù)據(jù)通常只在內(nèi)部用于改進(jìn)產(chǎn)品和服務(wù)，或分析一般客戶行為，因此對(duì)數(shù)據(jù)治理框架的需求并不緊迫。隨著GenAI在工作場(chǎng)所的廣泛應(yīng)用，這一情況已經(jīng)發(fā)生了變化。

如今，大多數(shù)公司都意識(shí)到，為了跟上同行的步伐，他們需要在產(chǎn)品或服務(wù)中引入某種形式的GenAI或大型語(yǔ)言模型(LLMs)——而這也伴隨著必要的治理。

一個(gè)問(wèn)題是：AI治理程序尚未形成，更不用說(shuō)定型了。AI的底層技術(shù)仍在發(fā)展，這使得立法機(jī)構(gòu)難以確定一個(gè)固定的合規(guī)方案。

但公司不能等待多年才看到最終的治理框架。相反，他們必須立即開(kāi)始建立一個(gè)可行的、可辯護(hù)的、可擴(kuò)展的，最終是靈活的框架，以監(jiān)督和管理他們企業(yè)中的AI使用。在部署AI模型之前，公司需要充分理解這些模型在其業(yè)務(wù)背景下的生命周期以及它們的工作原理。當(dāng)然，所有AI項(xiàng)目都應(yīng)通過(guò)合規(guī)、法律和信息安全團(tuán)隊(duì)的常規(guī)治理審核流程。

建立AI治理框架

適當(dāng)?shù)臄?shù)據(jù)治理涉及數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全、倫理使用和隱私保護(hù)等多個(gè)方面。根據(jù)你的業(yè)務(wù)和所使用數(shù)據(jù)的性質(zhì)，AI治理可能比數(shù)據(jù)治理更為重要(也更為耗費(fèi)資源)。

以數(shù)據(jù)分析為例，通常在人們做出決策和行動(dòng)之前，總會(huì)有一個(gè)人來(lái)驗(yàn)證結(jié)果，但由于AI能夠在更大規(guī)模上運(yùn)作，它可以在毫秒內(nèi)做出幾十個(gè)預(yù)測(cè)，而無(wú)需解釋。AI甚至可以在自動(dòng)決策場(chǎng)景中被訓(xùn)練為自主采取行動(dòng)。

在考慮你的AI治理模型時(shí)，可以考慮以下幾個(gè)基本要點(diǎn)：

1. 考慮使用AI的策略

你的計(jì)劃是什么?你的目標(biāo)是什么?問(wèn)問(wèn)自己，公司是否真的有一個(gè)AI的業(yè)務(wù)案例，也就是說(shuō)，嵌入在你的產(chǎn)品或服務(wù)中的AI是否會(huì)對(duì)你的客戶產(chǎn)生有意義的影響?如果答案是否定的，那么可能就不值得花費(fèi)精力和成本去開(kāi)發(fā)。

2. 制定AI使用監(jiān)控政策

如果答案是肯定的，那么第二個(gè)考慮因素應(yīng)該是制定一項(xiàng)政策或聲明，規(guī)定AI在公司內(nèi)部如何使用以及由誰(shuí)使用，這個(gè)基礎(chǔ)文件可以采用正式政策的形式，明確說(shuō)明為什么使用AI、由誰(shuí)使用以及用于什么目的。政策往往更具規(guī)范性和具體性，規(guī)定了技術(shù)必須——而不是應(yīng)該——如何使用。你的政策還可以提及行業(yè)標(biāo)準(zhǔn)，以作為基準(zhǔn)。

3. 考慮制定AI使用指南

或者，你可以制定指南，傳統(tǒng)上指南會(huì)列出推薦的使用方法和最佳實(shí)踐。兩種方法各有優(yōu)缺點(diǎn)。根據(jù)你的行業(yè)、你所受的監(jiān)管程度以及公司使用的數(shù)據(jù)類型(如B2C或B2B)，你可以選擇使用指南，以免過(guò)度限制創(chuàng)新或試驗(yàn)。

4. 創(chuàng)建AI文檔組合

無(wú)論你選擇何種文件，目標(biāo)都是創(chuàng)建一系列文檔，盡可能為員工如何使用新技術(shù)提供指導(dǎo)，這將幫助他們?cè)谑褂脭?shù)據(jù)時(shí)，以道德和負(fù)責(zé)任的方式創(chuàng)建功能豐富的產(chǎn)品和服務(wù)。

5. 建立法律合規(guī)框架

接下來(lái)，確保你的數(shù)據(jù)處理的法律基礎(chǔ)是堅(jiān)實(shí)的。如果你處理的是歐盟公民的數(shù)據(jù)，特別是要根據(jù)GDPR第6條的規(guī)定，為你的情況找到最合適的法律依據(jù)。

6. 確定AI決策者

另一個(gè)重要的工作是創(chuàng)建AI審批流程，包括指定決策者。

理想的AI治理框架應(yīng)該定位在概念化與運(yùn)營(yíng)化階段之間，這將確保任何為評(píng)估想法和用例而設(shè)立的團(tuán)隊(duì)、委員會(huì)或論壇能夠采用整體性和跨職能的視角。通過(guò)這種方法，他們可以全面評(píng)估AI對(duì)你的商業(yè)模式帶來(lái)的獨(dú)特風(fēng)險(xiǎn)，并決定哪些舉措應(yīng)推進(jìn)到生產(chǎn)階段。

為廣泛的AI監(jiān)督做好準(zhǔn)備

全球各地的立法者很快將要求大多數(shù)公司建立強(qiáng)有力的AI治理監(jiān)督模型。通過(guò)采用將人權(quán)與商業(yè)洞察相結(jié)合的更廣泛視角，企業(yè)可以通過(guò)增強(qiáng)客戶信任來(lái)獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。

這種以隱私為先、以業(yè)務(wù)為中心的方法使公司能夠自信地開(kāi)發(fā)以價(jià)值為驅(qū)動(dòng)的模型，同時(shí)確保數(shù)據(jù)隱私和符合監(jiān)管要求，提供超越單純合規(guī)的戰(zhàn)略優(yōu)勢(shì)。