我們對人工智能的期望是否過高?公司及其高管也應(yīng)該在多大程度上依賴人工智能提供的產(chǎn)出?

這是12月初在紐約舉行的人工智能峰會上舉辦的一個小組討論的主題，該小組重點(diǎn)關(guān)注人工智能在金融服務(wù)領(lǐng)域新興角色的風(fēng)險，但討論對所有行業(yè)都有廣泛的影響。(我有機(jī)會共同主持會議，并主持小組討論。

"我們認(rèn)為人工智能正在告訴我們一些東西，但事實(shí)并非如此，"Aible首席技術(shù)官Rod Butters警告說。"這只是一堆代碼。它不知道。這是我們所有人都陷入的幻想。不知何故，我們認(rèn)為該模型已經(jīng)體現(xiàn)了某些東西。現(xiàn)實(shí)情況是，人工智能只是一個統(tǒng)計引擎，在很多情況下，它是一個糟糕的統(tǒng)計引擎。

如今，有了人工智能，"人工智能是人造概念中最大的系統(tǒng)性風(fēng)險，"Agentic Group的創(chuàng)始人兼董事總經(jīng)理、世界倫理數(shù)據(jù)基金會(World Ethical Data Foundation)顧問委員會成員Rik Willard說。"這一切都是人類完成的。這一切都由人類表現(xiàn)出來。當(dāng)我們研究風(fēng)險與回報時，它只與金融機(jī)構(gòu)以及這些機(jī)構(gòu)周圍的監(jiān)管框架一樣好。我們是支持我們在技術(shù)之前建立的相同的人類和經(jīng)濟(jì)算法，還是我們正在努力使這些算法更好，更具包容性?"

此外，人工智能仍然是一項(xiàng)相對不成熟的技術(shù)，AntWorks全球金融服務(wù)副總裁Drew Scarano說。"十年前，我們甚至沒有談?wù)撊斯ぶ悄?，但今天，這是一個價值數(shù)十億美元的行業(yè)，"他說。斯卡拉諾說。"我們可能過于依賴這項(xiàng)技術(shù)，忘記了循環(huán)中的人類，以及他們?nèi)绾卧谘a(bǔ)充人工智能方面發(fā)揮不可或缺的作用，以獲得預(yù)期的結(jié)果。

另一個挑戰(zhàn)是人工智能系統(tǒng)傾向于在相對孤立的情況下構(gòu)建。巴特斯警告說，人工智能只是代碼，構(gòu)建這些系統(tǒng)的人對其對業(yè)務(wù)的價值的看法可能有限。"當(dāng)我們告訴數(shù)據(jù)科學(xué)家出去創(chuàng)建一個模型時，我們要求他們成為一個讀心者和算命先生，"他說。"這是兩個糟糕的工作集，它不起作用。數(shù)據(jù)科學(xué)家試圖做正確的事情，創(chuàng)建一個負(fù)責(zé)任和可靠的模型，但基于什么?最終，當(dāng)他們建立一個模型時，除非他們有這種組合來創(chuàng)造透明度，創(chuàng)造可擴(kuò)展性，實(shí)際上在戰(zhàn)略和戰(zhàn)術(shù)上將其傳達(dá)給業(yè)務(wù)群體，誰負(fù)責(zé)?僅僅創(chuàng)建一個偉大的模型并不一定能解決所有問題。

Scarano說，在構(gòu)建數(shù)據(jù)模型的過程中，數(shù)據(jù)科學(xué)家需要了解企業(yè)的目標(biāo)，同時考慮到對人類的影響。"你可以讓工程師建造一座偉大的橋梁。因此，如果它沒有超越它的意圖，它只是一座偉大的橋梁，對吧?我擔(dān)心商界人士，尤其是金融服務(wù)業(yè)人士。只會繼續(xù)過分依賴技術(shù)。我們需要一種與人類共存的整體方法。

Scarano敦促，超越人工智能的技術(shù)和統(tǒng)計數(shù)據(jù)，專注于最終為客戶提供服務(wù)的產(chǎn)品。"這是關(guān)于我們?nèi)绾斡萌斯ぶ悄軄硌a(bǔ)充人類來推動業(yè)務(wù)，并在一天結(jié)束時推動客戶現(xiàn)實(shí)，客戶成功和客戶滿意度。

小組成員一致認(rèn)為，人工智能為業(yè)務(wù)目標(biāo)服務(wù)的道路依賴于建立指導(dǎo)其發(fā)展的一致框架。"我在一個快速失敗的環(huán)境中長大，"威拉德說。"你構(gòu)建代碼，測試，并修復(fù)損壞的東西。你在旅途中修復(fù)它。你構(gòu)建它，它有點(diǎn)工作，你讓它松動，然后你根據(jù)反饋循環(huán)的輸入隨著時間的推移對其進(jìn)行改進(jìn)。然而，對于人工智能，問題在于我們把它放在一個判斷的位置。就像在刑事司法系統(tǒng)中一樣，在你做對之前，它會造成很多傷害。在銀行系統(tǒng)中，它是貸款，沒有貸款;分?jǐn)?shù)，沒有分?jǐn)?shù);或信用，沒有信用。我們?nèi)绾螛?gòu)建測試框架和沙盒，使其具有大規(guī)模啟動所需的準(zhǔn)確性，同時在此過程中造成更少的傷害?"

人工智能在整個金融服務(wù)行業(yè)被用于許多目的，但風(fēng)險在于幫助建立該行業(yè)的人際品質(zhì)的非人性化。"今天，我們可以將人工智能用于任何事情，從批準(zhǔn)信用卡到批準(zhǔn)抵押貸款，再到批準(zhǔn)任何類型的貸款工具，"Scarano說。"但是，如果沒有人為干預(yù)，就無法理解一個人比信用評分更重要，一個人比獲得抵押貸款的批準(zhǔn)或拒絕更多。

客戶體驗(yàn)是金融服務(wù)的基礎(chǔ)，這需要成為所有人工智能計劃的前沿和中心。在人工智能驅(qū)動的系統(tǒng)中，需要有反饋循環(huán)，這些系統(tǒng)結(jié)合了人類的輸入。"當(dāng)我們實(shí)施基于AI的解決方案時，我們需要確保使用產(chǎn)品的最終用戶，客戶也對這種投資和解決方案感到滿意，"Run：AI的解決方案架構(gòu)師Robert Magno說。"讓機(jī)器人在倉庫中自動移動包裹是非常有意義的。但從客戶服務(wù)的角度來看，如果一個與聊天機(jī)器人互動的人感到沮喪，就需要有一個反饋循環(huán)，以確保你正在實(shí)施的解決方案能與你的客戶產(chǎn)生共鳴，他們享受這種體驗(yàn)，就像你喜歡創(chuàng)造體驗(yàn)一樣。