影響GenAI有效性的關(guān)鍵問題
在試圖將GenAI應(yīng)用到業(yè)務(wù)中時,企業(yè)遇到了很多阻力和令人驚訝的變革管理問題,他們可以讓高層領(lǐng)導(dǎo)致力于此,但中層管理人員和行業(yè)人士抵制這種做法??梢岳斫獾氖?,一些人抵制,因為他們可能會失業(yè),或者不得不從根本上重新考慮如何做好自己的工作,但是,出現(xiàn)了相當(dāng)大的阻力,因為企業(yè)在使用AI工具時,難以解決隨機答案與確定性答案的問題。
AI的答案是概率性的
GenAI提供了一個概率答案,也就是說,它提供了最可能的答案或下一步,因此,當(dāng)它撰寫信件或書面工作時,它提供了最有可能的下一個單詞、短語或想法,然而,最可能的答案與正確的答案是不同的。誠然,這通常是一個正確的答案,而且——由于可以獲得大量的培訓(xùn)數(shù)據(jù)——它很有可能是一個好的答案,但這與正確的答案大相徑庭。
使這一問題進一步復(fù)雜化的是對如何得出答案的審計跟蹤的挑戰(zhàn),GenAI實現(xiàn)中面臨的許多挑戰(zhàn)來自于需要確定性答案的應(yīng)用程序,并且需要充分解釋答案是如何得出的。在需要或被認(rèn)為需要答案是確定性的地方,企業(yè)和其中的人抵制這些應(yīng)用,因為它們造成了對結(jié)果的有用性或可靠性的懷疑。
事實證明,即使提供AI作為助手,并要求人類成為答案的最終仲裁者,情況也是如此,缺乏解釋和圍繞援助的不確定性造成了不信任和阻力。
GenAI提供概率性答案的事實并不意味著它沒有價值,有很多用例表明它是有價值的,然而,如果一家企業(yè)將這個答案應(yīng)用到一個需要確定性答案的問題上,那么它似乎是在撒謊。
企業(yè)在尋求將GenAI應(yīng)用于業(yè)務(wù)時會遇到挫折,因為當(dāng)他們需要確定性答案時,他們最終會使用概率答案,因此,他們需要在概率開始的情況下進行機器學(xué)習(xí)(例如,它是一棵樹,因為它有綠葉),然后需要進行測試,以確定是否存在影響答案有效性的問題(例如秋季)。
哪些領(lǐng)域適合AI的概率性模型?
企業(yè)應(yīng)該如何將GenAI引入編程?科技行業(yè)做出了一些大膽的預(yù)測,即GenAI或AI可以學(xué)習(xí)編程,并顯著提高程序員的熟練程度或效率生產(chǎn)力,這很有趣。
在編碼領(lǐng)域,這一點立即生效,例如,測試測試腳本的開發(fā)本身就可以通過概率模型來處理,這里重要的是,一家企業(yè)可以針對許多條件進行測試,并盡可能廣泛和深入地生成腳本。為代碼和安全漏洞創(chuàng)建有效的測試本質(zhì)上是一種概率性練習(xí),因此,GenAI大放異彩,很容易被從業(yè)者采用。
另一方面,它不利于實際開發(fā)代碼,一家企業(yè)希望代碼100%都是正確的,這需要一個更具確定性的答案,然而,它在支持代碼開發(fā)的知識管理方面表現(xiàn)突出,還可以創(chuàng)建出色的入門集,顯著提高生產(chǎn)率。
GenAI的另一個很好的方面是合成或總結(jié)知識,因此,圍繞知識管理的領(lǐng)域?qū)τ贕enAI來說已經(jīng)成熟。
例如,在客戶關(guān)系管理功能中,Salesforce在其Einstein產(chǎn)品和其他旨在從客戶需求信息中合成或匯總信息的產(chǎn)品方面取得了很大進展,讓銷售人員更有效地進行知識管理是GenAI的一個非常有效的用例。
市場營銷是另一個概率答案很棒的領(lǐng)域,例如:下一步對該客戶采取的最好措施可能是什么?在對客戶數(shù)據(jù)進行分類以確定客戶問題的最佳解決方案時,GenAI可以產(chǎn)生巨大的立竿見影的影響,在那里,它可能是一個強大的工具。
相反,在索賠處理等過程中,確定性的答案是必要的,例如:我們?nèi)绾螢檫@項醫(yī)療索賠獲得合適的金額?這需要一個確定性的答案,在大多數(shù)情況下做對是不夠的,這需要一直做對。
問以下問題是使用GenAI、減少挫折感和抵抗力的有效開端:
- 我們可以在哪里立即有效地使用它?
- 它需要在哪里與其他技術(shù)結(jié)合起來?
- 我們不應(yīng)該在哪里使用它?
人的因素呢?
雖然它是幫助解決問題的有用工具,但概率性答案是一個起點,然而,它通常不會把人類排除在鏈條之外,相反,它為人類配備了更復(fù)雜的工具,特別是當(dāng)一家企業(yè)確定它需要得到確定性答案的時候。
如果一家企業(yè)使用AI工具來幫助企業(yè)數(shù)據(jù)和匯總數(shù)據(jù),它可以減少阻力,這很有幫助,但在使用它來做決定時,人們可能會對決定感到不舒服,因為它們并不總是正確的,由于他們不確定AI工具是如何得到答案的,他們也不知道如何檢查它。
擺脫這些困境的辦法是什么?
解決方案是不僅更徹底地了解自動化或得到幫助的工作,而且還要更徹底地了解它如何影響其余的人工任務(wù),并就下游工作或其他意想不到的其他后果提供指導(dǎo)和幫助。
這需要在何處應(yīng)用該工具方面變得更加成熟,用戶必須深思熟慮并充分考慮其影響,在評估產(chǎn)品的成熟度時,有必要考慮個人和企業(yè)以及意想不到的后果,這樣他們就不會抵制和扼殺它。
需要這種思考過程的一些問題包括:
- 不僅要考慮自動化的任務(wù),還要考慮正在自動化的人的角色的影響。
- 仔細(xì)考慮這樣一個現(xiàn)實,即任何需要的生產(chǎn)率提高都將導(dǎo)致更少的人從事這項任務(wù)。你怎么會考慮到這一點呢?
- 想一想如何測試這個工具,讓人們可以信任它。顛覆性的新技術(shù)帶來的不確定性越大,人們就越不愿信任它。
- 在轉(zhuǎn)向全面變革之前,思考如何試行AI工具,以展示其好處。
最后的一些想法
在對GenAI進行了一年的瘋狂試驗后,該行業(yè)成功地進行了數(shù)千次試點,然而,這些試點中的大多數(shù)都未能投入生產(chǎn),因為他們受到資金、變革管理和適應(yīng)方面的無數(shù)挑戰(zhàn)的阻礙。
然而,在GenAI很適合的地方,它正在迅速進入生產(chǎn)領(lǐng)域,并產(chǎn)生了令人印象深刻的回報,這些生產(chǎn)用例的成功似乎更多地是由用例與GenAI的性質(zhì)的契合性驅(qū)動的,而不是工具選擇或其他因素。
此外,似乎對于大多數(shù)業(yè)務(wù)功能來說,GenAI都有一個富有成效的角色,幾乎都集中在正確的子功能上。鑒于在實驗方面進行了巨大的投資,也許大多數(shù)企業(yè)能夠發(fā)現(xiàn)GenAI在哪里對他們有效的最有效的方法是查看GenAI成功地從試點過渡到生產(chǎn)的用例。在這種進展已經(jīng)大量發(fā)生的地方,企業(yè)可以相信有一個很好的契合點,并大幅降低浪費努力和資金的風(fēng)險。