問題到底出現(xiàn)在了哪里?有什么辦法來避免這些錯誤嗎?

如今，人工智能(AI)、機器學習(ML)和其他新興技術(shù)具有巨大的潛力已成社會共識，它們有望為個人、企業(yè)乃至政府解決眾多復雜的問題。

然而，盡管在過去的兩年里人工智能的應用越來越多，但只有一小部分公司承認人工智能技術(shù)的引進為他們的業(yè)務進展貢獻了重大的價值。

那么，問題到底出現(xiàn)在了哪里?企業(yè)在應用人工智能技術(shù)的時候會犯哪些錯誤?有什么辦法來避免這些錯誤嗎?

不要解決錯誤的問題

當決定在哪里應用人工智能來解決問題時，要通過正確的視角來看待情況，并讓企業(yè)的商業(yè)部門和IT部門雙方都參與到設計過程中來。

因為無論是商業(yè)部門還是IT部門都沒有辦法給出全部的意見。商業(yè)部門領(lǐng)導人知道可以拉動哪些杠桿來獲得競爭優(yōu)勢，而技術(shù)部門領(lǐng)導人知道如何使用技術(shù)來實現(xiàn)這些目標。

兩方結(jié)合可以幫助創(chuàng)建一個關(guān)于問題、要求和期望結(jié)果的完整圖景，并且可以優(yōu)先考慮哪些變化會產(chǎn)生最大的運營和財務影響。

舉例來說，一家消費品零售公司的平均發(fā)票處理時間為36小時，在降本增效的情況下，它希望幫助其加快處理速度。根據(jù)預估，應用AI/ML解決方案可以將發(fā)票處理時間減少到30分鐘，效率提高了720%。

從紙面上看，這種改進很好，但該公司的每周結(jié)算流程意味著處理時間的改善并不重要，這也就導致該解決方案從未投入應用。

當看到要解決的問題時，重要的是將其與三個關(guān)鍵的底線業(yè)務驅(qū)動因素聯(lián)系起來——增加收入、提高利潤率或減少風險。而在上面的案例中，節(jié)省時間并不一定意味著增加收入或減少成本。

數(shù)據(jù)質(zhì)量是成功的關(guān)鍵

如今，大多數(shù)人應該都不會質(zhì)疑數(shù)據(jù)在人工智能項目中的關(guān)鍵性和重要性。干凈、可靠、可訪問的數(shù)據(jù)是實現(xiàn)準確結(jié)果的關(guān)鍵。

對于一個人工智能系統(tǒng)，算法優(yōu)良，模型有效，但是如果數(shù)據(jù)質(zhì)量差或者不容易收集、不可行，那么就意味著整體的失敗。

所以，企業(yè)必須確定他們需要收集哪些數(shù)據(jù)，他們是否能夠?qū)嶋H收集這些數(shù)據(jù)，收集這些數(shù)據(jù)的難度和成本有多大，以及這些數(shù)據(jù)是否能夠提供所需的信息。

例如，一家金融機構(gòu)希望使用AI/ML來自動處理貸款，但源記錄中缺失的數(shù)據(jù)元素造成了高錯誤率，就會導致解決方案失敗。

為此，就需要創(chuàng)建出第二個ML模型來審查每條記錄。那些符合要求的置信區(qū)間的記錄在自動化流程中被向前推進，那些不符合要求的記錄被拉出來進行人工干預以解決數(shù)據(jù)質(zhì)量問題。

這個多階段的過程大大減少了所需的人力互動，使該機構(gòu)的效率提高了85%。如果沒有額外的ML模型來解決數(shù)據(jù)質(zhì)量問題，該機構(gòu)即便有了自動化解決方案也永遠不會取得有意義的結(jié)果。

部搭建的還是請求第三方?

在搭建人工智能系統(tǒng)的時候，企業(yè)往往會面臨是自主開發(fā)還是引入第三方的矛盾選擇。一般而言，內(nèi)部自主搭建的解決方案具有高度“可控性”，因為所有開發(fā)算法、清理數(shù)據(jù)以及測試和驗證模型的工作都是掌握在自己手里。

但是，建立自己的人工智能解決方案是很復雜的，除非你使用開源代碼，否則你將面臨圍繞所使用的工具的許可費用以及與前期解決方案開發(fā)和維護有關(guān)的費用。

那么引入第三方解決方案就萬事大吉了嗎?也不盡然，第三方解決方案同樣有其自身的挑戰(zhàn)，包括：無法接觸到模型或其工作方式;無法知道模型是否在做它應該做的事情;如果解決方案是基于SaaS的，則無法接觸到數(shù)據(jù);無法進行回歸測試或了解錯誤接受度或錯誤率。

在監(jiān)管嚴格的行業(yè)，這些問題變得更加具有挑戰(zhàn)性，因為監(jiān)管機構(gòu)會就這些問題提出質(zhì)詢。

例如，一家金融服務公司正在驗證一種 SaaS 解決方案，該方案使用人工智能來識別可疑活動。因為引入了第三方，該公司無法接觸到基礎模型或數(shù)據(jù)，也沒有關(guān)于該模型如何確定哪些活動是可疑的細節(jié)。這樣一來，該公司如何進行盡職調(diào)查并核實該工具是否有效?

在這種情況下，該公司發(fā)現(xiàn)其唯一的選擇就是對其試圖檢測的可疑或惡劣的活動進行模擬。但即使這種驗證方法也有挑戰(zhàn)，例如確保測試不會產(chǎn)生負面影響、創(chuàng)建拒絕服務條件，或影響服務的可用性。

該公司決定在測試環(huán)境中進行模擬，以盡量減少對生產(chǎn)影響的風險。如果公司選擇利用這種驗證方法，他們應該審查服務協(xié)議，以驗證他們是否有權(quán)進行這種類型的測試，并應考慮是否需要獲得其他可能受影響的第三方的許可。

收集所有的相關(guān)聲音

在考慮開發(fā)一個人工智能解決方案時，重要的是在前期聚攏所有相關(guān)的決策者，包括業(yè)務利益相關(guān)者、IT、合規(guī)性和內(nèi)部審計。這可以確保在規(guī)劃和工作開始前收集所有關(guān)于需求的關(guān)鍵信息。

例如，一家酒店管理公司希望按照歐洲嚴格的數(shù)據(jù)保護法《通用數(shù)據(jù)保護條例》(GDPR)的要求，將其響應數(shù)據(jù)主體訪問請求(DSAR)的過程自動化。DSAR要求企業(yè)應要求提供該公司為請求者持有的任何個人數(shù)據(jù)的副本，以及使用這些數(shù)據(jù)的目的。

為此，該公司聘請了一個外部供應商來開發(fā)一個人工智能解決方案，以實現(xiàn)DSAR流程要素的自動化，但在這個過程中沒有涉及IT部門。

由此產(chǎn)生的需求定義未能與該公司支持的技術(shù)解決方案相一致。雖然概念驗證證實了該解決方案會使速度和效率提高200%以上，但該解決方案沒有進入生產(chǎn)階段，因為IT部門擔心維護這個新解決方案的長期成本會超過節(jié)省的成本。

在一個類似的例子中，一家金融服務機構(gòu)沒有讓其合規(guī)團隊參與制定需求定義。這導致正在開發(fā)的人工智能解決方案不符合該企業(yè)的合規(guī)標準，證明過程沒有被記錄下來，而且該解決方案沒有使用該公司要求的相同的身份和訪問管理(IAM)標準。當解決方案只是部分通過了概念驗證階段時，合規(guī)性也“廢掉”了該解決方案。

重要的是，在開發(fā)或?qū)嵤┤斯ぶ悄?ML解決方案時，所有相關(guān)的聲音都要盡早提出。這將確保需求定義是正確和完整的，解決方案符合所需的標準，并實現(xiàn)預期的業(yè)務目標。

結(jié)語

在考慮人工智能或其他新興技術(shù)時，企業(yè)需要在過程的早期采取正確的行動，以確保成功。最重要的是，他們必須確保：1)他們追求的解決方案符合三個關(guān)鍵目標中的一個——增加收入、提高盈利能力或降低風險;2)他們有獲得必要數(shù)據(jù)的流程;3)他們的構(gòu)建與購買決策是有根據(jù)的;4)他們有所有的利益相關(guān)者都在早期參與。