事實(shí)上，生成式AI可能很快就會(huì)在整個(gè)企業(yè)的銷售、營銷、采購和供應(yīng)鏈中大力支持人類決策。想想看，IBM方面已經(jīng)宣布，將暫停招聘其首席執(zhí)行官認(rèn)為AI可以填補(bǔ)的7800個(gè)當(dāng)前和未來的職位。然而，盡管生成式AI存在巨大的潛力領(lǐng)域，但其在隱私、算法偏見甚至業(yè)務(wù)連續(xù)性方面也存在同樣重大的風(fēng)險(xiǎn)。

我一直在與其他領(lǐng)導(dǎo)人討論這些問題，特別是因?yàn)樗鼈兩婕肮芾砉?yīng)商合規(guī)使用AI的安全和道德政策。根據(jù)這些對(duì)話，以下是領(lǐng)導(dǎo)團(tuán)隊(duì)考慮的一些風(fēng)險(xiǎn)領(lǐng)域，以及針對(duì)采購團(tuán)隊(duì)的一些常識(shí)性指導(dǎo)方針，以確保AI在道德、準(zhǔn)確和安全的情況下運(yùn)行。

風(fēng)險(xiǎn)

雖然與AI相關(guān)的風(fēng)險(xiǎn)數(shù)量可能還不完全清楚，但以下是一些已經(jīng)浮出水面并亟需解決的問題：

1. 欺詐和AI魚叉式網(wǎng)絡(luò)釣魚

安全研究人員認(rèn)為，ChatGPT正在引發(fā)一場騙局的“浪潮”。任何針對(duì)供應(yīng)商(即使是很小的供應(yīng)商)的騙局都可以用來損害其客戶的采購團(tuán)隊(duì)。這一點(diǎn)可以參見2021年涉及SolarWinds和其他公司的攻擊，以了解受損的供應(yīng)商如何影響下游的其他公司。

另一方面，供應(yīng)商可能會(huì)擔(dān)心AI在采購過程中選擇獲勝供應(yīng)商的準(zhǔn)確性或公平性——客戶或黑客可能會(huì)操縱AI系統(tǒng)，使其偏袒某些供應(yīng)商，而非其他供應(yīng)商，這意味著可能會(huì)失去一份利潤豐厚的合同。

2. 盜竊知識(shí)產(chǎn)權(quán)

除非使用得當(dāng)，否則輸入ChatGPT或其他生成式AI工具的數(shù)據(jù)可能會(huì)傳播給使用該服務(wù)的其他用戶或公司，從而暴露敏感的IP和“商業(yè)機(jī)密”。這可能會(huì)導(dǎo)致嚴(yán)重的法律后果——特別是考慮到歐盟的《通用數(shù)據(jù)保護(hù)條例》(GDPR)等法律——并可能損害公司的聲譽(yù)。作為回應(yīng)，三星等一些公司已經(jīng)禁止或暫停員工使用生成式AI技術(shù)，同時(shí)調(diào)查潛在風(fēng)險(xiǎn)。

3. 算法偏見

許多新的AI系統(tǒng)為供應(yīng)商提供算法推薦。不幸的是，AI是根據(jù)歷史數(shù)據(jù)和過去的決策進(jìn)行訓(xùn)練的，其中可能包括對(duì)邊緣化供應(yīng)商的(無意識(shí)的)偏見。如果數(shù)據(jù)中存在的偏見沒有得到妥善解決，AI可能會(huì)延續(xù)甚至加劇這些偏見，導(dǎo)致不公平的結(jié)果和潛在的法律責(zé)任。

目前，這些偏見正在影響使用AI進(jìn)行招聘決策的公正性。為此，紐約剛剛通過了一項(xiàng)法律，要求公司對(duì)其自動(dòng)招聘工具中的算法偏見承擔(dān)法律責(zé)任。

4. 供應(yīng)中斷

在與供應(yīng)鏈領(lǐng)導(dǎo)者的對(duì)話中，一些人擔(dān)心AI可能會(huì)檢測(cè)到或先發(fā)制人地對(duì)某種特定商品進(jìn)行擠兌/搶購，并在搶購之前觸發(fā)一個(gè)自動(dòng)購買周期，從而引發(fā)擠兌。很容易想象，隨著AI與監(jiān)控市場并為重復(fù)交易執(zhí)行購買周期的自主系統(tǒng)更加融合，試圖在價(jià)格飆升之前“戰(zhàn)勝市場”觸發(fā)供應(yīng)短缺的風(fēng)險(xiǎn)可能會(huì)無意中造成供應(yīng)中斷。

對(duì)于食品、燃料和藥品等類別，采購和供應(yīng)管理團(tuán)隊(duì)可能會(huì)感到痛苦，更不用說我們所服務(wù)的客戶和社區(qū)了。AI管理的庫存決策也可能導(dǎo)致意想不到的庫存水平——導(dǎo)致庫存減少、缺貨、物流成本增加、收入損失和客戶信心下降。

常識(shí)性指南

考慮到這些威脅，以及AI的發(fā)展速度，立即圍繞這項(xiàng)技術(shù)的使用制定一項(xiàng)常識(shí)性政策是有意義的。

在工作場所之外建立負(fù)責(zé)任的使用方式

不要假設(shè)所有員工都是“AI禁欲者”。提供關(guān)于提示(prompt)中應(yīng)該和不應(yīng)該包含哪些信息的指導(dǎo)，對(duì)于圍繞負(fù)責(zé)任的使用展開全面討論至關(guān)重要。用戶應(yīng)該接受培訓(xùn)，以有效地使用AI工具并解釋其輸出，并保持對(duì)AI局限性和潛在風(fēng)險(xiǎn)的認(rèn)知。

與供應(yīng)商間設(shè)立界限

無論您的團(tuán)隊(duì)成員和供應(yīng)商是否知道，事實(shí)是，放入ChatGPT的任何信息都可能被競爭對(duì)手和其他第三方訪問。IT團(tuán)隊(duì)已經(jīng)在競相建立規(guī)則，但他們往往只關(guān)注內(nèi)部。

作為采購和供應(yīng)鏈團(tuán)隊(duì)，我們的工作是將這些期望傳達(dá)給我們的供應(yīng)商合作伙伴。至少，提醒供應(yīng)商始終實(shí)施數(shù)據(jù)匿名化和加密技術(shù)，以保護(hù)敏感信息。

組建專業(yè)團(tuán)隊(duì)

對(duì)許多人來說，創(chuàng)造有效的“提示”是一項(xiàng)關(guān)鍵的新技能，所以可以考慮培訓(xùn)團(tuán)隊(duì)如何創(chuàng)造提示，甚至聘請(qǐng)“提示工程師”(prompt engineer)來優(yōu)化結(jié)果。

您可能還要考慮執(zhí)行程序來檢測(cè)和減輕AI數(shù)據(jù)和輸出中的偏見。這可能涉及偏見審計(jì)、公平指標(biāo)和多樣化的訓(xùn)練數(shù)據(jù)集。

討論自觸發(fā)(self-triggering)供應(yīng)中斷

哪些商品類別可能容易受到“恐慌性購買”的影響?其他市場參與者是如何應(yīng)對(duì)這一挑戰(zhàn)的?

這些都是戰(zhàn)略關(guān)注的主題，無論AI是被您的公司還是被市場上的其他買家/賣家使用，這些問題都將至關(guān)重要。作為一種預(yù)防措施，建議現(xiàn)在就開始與您的團(tuán)隊(duì)進(jìn)行這些類型的對(duì)話。

防護(hù)機(jī)制的未來演變

隨著技術(shù)的進(jìn)步和業(yè)務(wù)實(shí)踐的改變，圍繞AI的風(fēng)險(xiǎn)和法律限制將繼續(xù)演變?？紤]一下未來可能需要對(duì)AI功能進(jìn)行哪些增強(qiáng)，以實(shí)現(xiàn)更高級(jí)的功能，如預(yù)測(cè)分析、更多語言的自然語言處理、偏見審計(jì)和高級(jí)欺詐檢測(cè)。

現(xiàn)在有很多關(guān)于AI的炒作，對(duì)許多采購和供應(yīng)鏈領(lǐng)域的人來說，這并不是什么新鮮事。然而，這些模型只會(huì)變得越來越好，而且改進(jìn)的速度從未如此之快。如果我們?cè)谶@項(xiàng)技術(shù)加速之前沒有進(jìn)行內(nèi)部討論，形成明確的界限和具體的意圖，我們可能會(huì)被AI本身產(chǎn)生的想法和建議所困。