隨著技術(shù)的不斷發(fā)展，自主式AI正逐漸成為企業(yè)數(shù)字化轉(zhuǎn)型的重要推手。然而，如何確保AI的安全、有效應(yīng)用，卻成為了眾多CIO面臨的難題。本文將圍繞五大關(guān)鍵問題，為CIO提供一份自主式AI落地指南。

每晚，當紐約大學格羅斯曼醫(yī)學院(NYU Grossman School of Medicine)和紐約大學格羅斯曼長島醫(yī)學院(NYU Grossman Long Island School of Medicine)的大多數(shù)醫(yī)學生都在睡覺時，AI正在為他們忙碌地工作。

一款A(yù)I應(yīng)用會從紐約大學朗格尼健康系統(tǒng)(NYU Langone Health system)下屬6家住院醫(yī)院和300多家門診地點獲取匿名診斷代碼，將它們與相關(guān)研究和診斷信息相匹配，并及時將結(jié)果通過電子郵件發(fā)送給醫(yī)學生，供他們晨起時查閱。

該平臺是自主式AI的一個例子，即能夠自主決策和行動的AI系統(tǒng)。

“這實際上并不是改變AI本身，而是改變其周邊組件，以便讓該AI能夠做出更相關(guān)的決策。”英國網(wǎng)絡(luò)安全咨詢和托管服務(wù)提供商NCC集團的技術(shù)總監(jiān)大衛(wèi)·布勞克勒(David Brauchler)說道。

但自主式AI只有在安全、維護良好且應(yīng)用于合適的用例時才能發(fā)揮作用。以下是CIO在部署該技術(shù)之前應(yīng)該提出的五個問題。

自主式AI將解決什么問題?

紐約大學朗格尼健康系統(tǒng)的高級副總裁、副院長兼首席數(shù)字信息官納德·默哈比(Nader Mherabi)表示，當公司開始部署AI時，應(yīng)該制定一個戰(zhàn)略計劃，以確保將正確的技術(shù)應(yīng)用于正確的用例?！癆I不能脫離工作流程，否則人們不會使用它。”

紐約大學朗格尼健康系統(tǒng)有一系列使用不同模型的AI相關(guān)項目。對于將病例與研究相匹配而言，智能體是一個合理的選擇，因為它是一個相對直接的用例，能夠產(chǎn)生高度有益的結(jié)果，默哈比說道。

“它訪問和編譯數(shù)據(jù)的方式非常強大，能夠從中得出醫(yī)學知識，然后為學生提供個性化的學習資料，”默哈比說道?！八鼛缀蹩梢宰灾鬟\行，”默哈比表示。

該代理不會接觸高度敏感且受到嚴格監(jiān)管的患者數(shù)據(jù)，這使得AI的使用風險較低。信息與患者就診情況斷開連接，并在紐約大學朗格尼健康系統(tǒng)的安全網(wǎng)絡(luò)中運行。

我們是否有讓其發(fā)揮作用的數(shù)據(jù)?

Gartner的高級總監(jiān)分析師湯姆·考紹(Tom Coshow)表示，只有當AI擁有正確的數(shù)據(jù)，且這些數(shù)據(jù)得到妥善處理時，智能體才會有效。

數(shù)據(jù)還必須與確切的用例對齊。否則，智能體將從不該提取AI的地方提取，這可能會導致錯誤答案，或者在最壞的情況下，讓員工訪問到他們不該看到的數(shù)據(jù)。

數(shù)據(jù)也需要維護，這需要合適的人才，考紹表示?！皵?shù)據(jù)專家這一新興領(lǐng)域?qū)⑸瞄L以智能體友好的方式維護數(shù)據(jù)，”考紹說道。

數(shù)據(jù)是否安全?

除了確保員工不會訪問到他們不該獲取的信息外，組織還應(yīng)考慮自主式AI可能帶來的安全風險。

“您在應(yīng)用程序環(huán)境或網(wǎng)絡(luò)中添加的所有內(nèi)容都是必須管理的額外攻擊面?！盢CC集團的布勞克勒說道。

在考慮將AI添加到未考慮AI或AI相關(guān)風險的系統(tǒng)和平臺時，公司應(yīng)進行安全測試。NCC集團最近測試了一個平臺，發(fā)現(xiàn)它可以通過添加隱藏文本來操縱系統(tǒng)。

“由于該平臺并非為AI而設(shè)計，因此在其系統(tǒng)中創(chuàng)建了一個以前不存在的漏洞?！辈紕诳死照f道。

安全采用需要擁有經(jīng)過AI培訓的工程師，他們可以準備和管理風險。否則，“您實際上是在增加攻擊面，而沒有擁有解決AI特定風險的經(jīng)驗的工程師，”他補充道。

自主式AI在公司技術(shù)戰(zhàn)略中處于什么位置?

并非所有自主式AI都是相同的，因此CIO需要詢問哪些平臺在整體技術(shù)戰(zhàn)略的背景下是合適的。

“我是只在我的云服務(wù)提供商中構(gòu)建，還是要尋找擁有特殊行業(yè)技能的初創(chuàng)公司?”考紹問道。

CIO還應(yīng)詢問他們能接受多少個自主式AI系統(tǒng)，以及如果他們在不同的平臺上運行，他們是否有能力監(jiān)控所有代理。

紐約大學朗格尼健康系統(tǒng)是分階段開展AI相關(guān)項目的。這可能意味著創(chuàng)建較小的自主式智能體，這些代理可以像樂高積木一樣連接成一個更大的整體。默哈比表示，這樣，如果一個代理不工作，就可以將其拔出并修復(fù)，而不必拆除整個操作。

如何監(jiān)控自主式AI?

自主式AI不是一種設(shè)置好后就可以忘記的應(yīng)用程序。相反，它需要持續(xù)監(jiān)控，以確保數(shù)據(jù)的準確性、使用恰當性以及最終用戶的利益。

默哈比表示，使用自主式AI的應(yīng)用程序“需要持續(xù)維護”。

自去年部署以來，通過密切監(jiān)控，該衛(wèi)生系統(tǒng)的自主式AI應(yīng)用程序能夠繼續(xù)為醫(yī)學生提供定制信息。它實現(xiàn)了用例目標，并繼續(xù)發(fā)揮作用。

“我想，孩子們早上起床，登錄門戶，就能看到相關(guān)材料，這很不錯?！蹦日f道?！罢l不喜歡呢?”