在采訪中，Holistic AI的聯(lián)合首席執(zhí)行官Emre Kazim討論了公司從一開始就需要將負(fù)責(zé)任的AI實(shí)踐融入其業(yè)務(wù)戰(zhàn)略的必要性。他探討了如何解決偏見、隱私和透明度等問題，這需要一種積極主動(dòng)且全面的方法，而不僅僅是遵守法規(guī)。

公司如何解決AI模型中的偏見、隱私問題和缺乏透明度的情況?

為了應(yīng)對(duì)這些挑戰(zhàn)及其他更多問題，公司需要制定一個(gè)清晰且積極主動(dòng)的AI治理計(jì)劃。對(duì)于將AI視為重要商業(yè)舉措的公司而言，AI治理需要從一開始就融入其IT戰(zhàn)略中，它不是一個(gè)可選項(xiàng)。一個(gè)全面的AI治理計(jì)劃需要解決政府法規(guī)和/或標(biāo)準(zhǔn)、安全要求以及業(yè)務(wù)層面的KPI，并包括以下方面：

• 有效性——AI工作負(fù)載是否完成了其既定目標(biāo)?它是否高效?相對(duì)于其用例和目標(biāo)，它的表現(xiàn)如何?
• 穩(wěn)健性——隨著情況的發(fā)展或面臨惡意破壞系統(tǒng)的企圖時(shí)，系統(tǒng)如何保持性能?系統(tǒng)抵御對(duì)抗性威脅的能力如何?
• 隱私性——系統(tǒng)是否存在數(shù)據(jù)泄露的風(fēng)險(xiǎn)，從而可能暴露敏感或個(gè)人信息?
• 偏見——深入查看模型與其預(yù)期用例的關(guān)系，以確定系統(tǒng)中是否存在偏見。在不同場景中，偏見的處理方式不同，因此在上下文中衡量這一點(diǎn)至關(guān)重要。例如，在醫(yī)療診斷應(yīng)用中，你可能想要針對(duì)某些人群(如特定血統(tǒng)的老年男性易患心臟病)，但在招聘應(yīng)用中則不希望如此。
• 可解釋性——AI系統(tǒng)對(duì)用戶和開發(fā)人員來說是否易于理解?我們能否理解系統(tǒng)是如何得出其預(yù)測或問題答案的?這對(duì)于透明度和信任至關(guān)重要。

AI治理不僅僅是為了規(guī)避風(fēng)險(xiǎn)——它還能通過幫助團(tuán)隊(duì)協(xié)同工作并提高效率，來加速公司的AI采用。通過清晰且協(xié)作地管理AI，公司可以更快地采用AI并獲得更好的結(jié)果。使用能夠全面了解風(fēng)險(xiǎn)和業(yè)務(wù)績效指標(biāo)(如偏見、合規(guī)性、有效性、穩(wěn)健性和可解釋性)的工具，公司發(fā)現(xiàn)更容易構(gòu)建公平、安全且與公司目標(biāo)一致的AI系統(tǒng)。

諸如歐盟的《人工智能法案》等新興法規(guī)如何影響負(fù)責(zé)任AI的采用?

事實(shí)上，目前全球有近500項(xiàng)關(guān)于AI的法律正在制定中，其中200項(xiàng)在美國處于聯(lián)邦層面，另外還有83起僅與通用AI相關(guān)的訴訟。全球許多政府正在考慮制定法規(guī)，以在使用AI時(shí)保護(hù)其公民。這種非?；钴S的監(jiān)管環(huán)境無疑正在推動(dòng)企業(yè)從一開始就考慮其AI應(yīng)用中的責(zé)任和公平性。

但還有更強(qiáng)大的市場力量在發(fā)揮作用。公司明白，AI的采用對(duì)其生存至關(guān)重要，未來的勝者將由其有效利用AI的能力決定。此外，他們明白品牌聲譽(yù)是其最寶貴的資產(chǎn)之一。在AI方面的失誤——尤其是在關(guān)鍵任務(wù)環(huán)境中(如交易算法失控、用戶隱私泄露或未達(dá)到安全標(biāo)準(zhǔn))——會(huì)侵蝕公眾信任并損害公司的底線。這可能帶來嚴(yán)重的后果。由于公司的競爭力和潛在的生存能力都岌岌可危，AI治理已成為他們不容忽視的商業(yè)要?jiǎng)?wù)。

隨著AI創(chuàng)新的加速，你認(rèn)為當(dāng)前對(duì)負(fù)責(zé)任AI的努力是否足夠，還是我們需要更強(qiáng)大的框架?

AI的采用尚處于早期階段，我認(rèn)為推動(dòng)負(fù)責(zé)任AI的動(dòng)力將來自多個(gè)方向。當(dāng)然，我們看到政府和聯(lián)邦層面都有很多活動(dòng)，但這正在形成一種分散的方法。我們還看到，一些領(lǐng)先的公司明白采用AI對(duì)其未來至關(guān)重要，并希望快速行動(dòng)。他們沒有等待監(jiān)管環(huán)境穩(wěn)定下來，而是在采用負(fù)責(zé)任AI原則方面發(fā)揮領(lǐng)導(dǎo)作用，以保護(hù)其品牌聲譽(yù)。因此，我相信公司會(huì)出于自身利益而明智地行動(dòng)，以加速其AI計(jì)劃并提高業(yè)務(wù)回報(bào)。但這些動(dòng)機(jī)與更廣泛的社會(huì)利益完美契合：部署安全、可靠和值得信賴的AI。

企業(yè)聲譽(yù)和市場力量正在確保AI治理不僅僅是一個(gè)事后考慮——它是一項(xiàng)商業(yè)要?jiǎng)?wù)，這與監(jiān)管努力同時(shí)發(fā)生，這對(duì)每個(gè)人來說都是好消息。

鑒于AI決策的不可預(yù)測性，你建議采取哪些風(fēng)險(xiǎn)管理策略來監(jiān)測和減輕與AI相關(guān)的風(fēng)險(xiǎn)?

正如公司建立數(shù)據(jù)治理來管理組織數(shù)據(jù)、建立云治理來監(jiān)督其向云計(jì)算的過渡一樣，他們現(xiàn)在必須采用全面的AI治理策略來指導(dǎo)其AI的采用。

有效的AI治理涵蓋整個(gè)AI生命周期，確保與組織戰(zhàn)略、道德原則和監(jiān)管要求保持一致。

一個(gè)強(qiáng)大的治理框架涉及AI使用的每個(gè)階段，從采用和開發(fā)到風(fēng)險(xiǎn)管理。監(jiān)測在這個(gè)過程中發(fā)揮著關(guān)鍵作用，確保持續(xù)的監(jiān)督和合規(guī)性。實(shí)施AI治理的關(guān)鍵步驟包括：

• 盤點(diǎn)和發(fā)現(xiàn)：識(shí)別和編錄AI系統(tǒng)和資產(chǎn)。
• 入職和工作流程：定義將AI集成到運(yùn)營中的流程。
• 政策、文檔和合規(guī)準(zhǔn)備：制定明確的指導(dǎo)方針，并確保遵守法規(guī)和框架——如歐盟的《人工智能法案》或NIST，或公司自行設(shè)計(jì)的框架。
• 測試、驗(yàn)證和風(fēng)險(xiǎn)優(yōu)化：評(píng)估AI性能并減輕潛在風(fēng)險(xiǎn)。
• 報(bào)告、警報(bào)和分析：通過全面監(jiān)測提供見解和早期預(yù)警。此外，系統(tǒng)如何實(shí)現(xiàn)業(yè)務(wù)KPI和性能?
• 投資回報(bào)率跟蹤：衡量AI投資產(chǎn)生的價(jià)值。
• 持續(xù)監(jiān)測：保持持續(xù)警惕，以應(yīng)對(duì)新出現(xiàn)的挑戰(zhàn)。

通過遵循這些步驟，企業(yè)可以確保其AI計(jì)劃具有戰(zhàn)略性、道德性和可持續(xù)性。

對(duì)于AI系統(tǒng)出現(xiàn)故障或產(chǎn)生偏見輸出的情況，企業(yè)應(yīng)該制定哪些具體的應(yīng)急響應(yīng)協(xié)議?

擁有有效AI治理策略的公司能夠更好地主動(dòng)應(yīng)對(duì)潛在風(fēng)險(xiǎn)并防止最壞情況的發(fā)生。事實(shí)上，分析師報(bào)告稱，到2028年，實(shí)施全面AI治理平臺(tái)的企業(yè)相比沒有此類系統(tǒng)的企業(yè)，AI相關(guān)的道德事件將減少40%。

其中一個(gè)關(guān)鍵因素是持續(xù)監(jiān)測——根據(jù)應(yīng)用的關(guān)鍵程度和風(fēng)險(xiǎn)水平，可以是定期或連續(xù)的——以便快速發(fā)現(xiàn)和響應(yīng)問題。這種監(jiān)測可以根據(jù)預(yù)定義的界限自動(dòng)通知相應(yīng)的團(tuán)隊(duì)，并在出現(xiàn)問題時(shí)建議補(bǔ)救步驟。

同樣重要的是確保團(tuán)隊(duì)接受培訓(xùn)并為緊急情況做好準(zhǔn)備。就像強(qiáng)大的安全事件響應(yīng)計(jì)劃一樣，跨職能團(tuán)隊(duì)的定期培訓(xùn)至關(guān)重要。這些培訓(xùn)應(yīng)模擬AI事件場景，包括執(zhí)行補(bǔ)救策略和完善溝通響應(yīng)計(jì)劃。

在與客戶溝通時(shí)，要優(yōu)先考慮透明度、誠實(shí)和真實(shí)性。及時(shí)分享你所知道的信息，有新信息時(shí)提供更新，并向客戶保證你正在迅速采取行動(dòng)解決問題。如果處理得當(dāng)，有效的應(yīng)急響應(yīng)甚至可以通過展示其對(duì)負(fù)責(zé)任AI的承諾和高度的責(zé)任感，來幫助品牌建立與客戶的信任。