這項(xiàng)調(diào)查涵蓋249名企業(yè)風(fēng)險(xiǎn)高層管理人員，匯總出2023年第二季度最嚴(yán)峻的五大新興風(fēng)險(xiǎn)。

根據(jù)Gartner公司發(fā)布的數(shù)據(jù)，生成式AI（包括OpenAI ChatGPT和谷歌Bard）的大規(guī)模普及已經(jīng)成為2023年第二季度企業(yè)風(fēng)險(xiǎn)管理者們最關(guān)注的問(wèn)題。

Gartner風(fēng)險(xiǎn)與審計(jì)實(shí)踐研究總監(jiān)Ran Xu表示，“在我們第二季度的調(diào)查當(dāng)中，生成式AI已經(jīng)成為第二大常見(jiàn)風(fēng)險(xiǎn)，這也是其首次出現(xiàn)在風(fēng)險(xiǎn)因素的前十名中。由此看來(lái)，隨著公眾認(rèn)知和生成式AI工具普及度的快速增長(zhǎng)，再結(jié)合潛在用例的巨大廣度，這些工具帶來(lái)的潛在風(fēng)險(xiǎn)已經(jīng)不容小覷?！?/p>

2023年5月，Gartner對(duì)249名企業(yè)風(fēng)險(xiǎn)高層管理人員進(jìn)行了調(diào)查，其中提出20種新興風(fēng)險(xiǎn)的基準(zhǔn)觀點(diǎn)。這份季度新興風(fēng)險(xiǎn)報(bào)告提出了這些風(fēng)險(xiǎn)的潛在影響、時(shí)間范圍、關(guān)注程度和感知機(jī)會(huì)等細(xì)節(jié)信息。

而在第二季度的最新調(diào)查當(dāng)中，第三方生存能力成為各類(lèi)組織最為關(guān)注的首要新興風(fēng)險(xiǎn)（見(jiàn)表1）。財(cái)務(wù)規(guī)劃不確定性排名第三，位列第四的則是云集中風(fēng)險(xiǎn)。對(duì)中國(guó)的貿(mào)易緊張局勢(shì)排名第五，具體又分為當(dāng)前宏觀經(jīng)濟(jì)疲軟，以及因地緣政治的廣泛波動(dòng)所引發(fā)的現(xiàn)實(shí)影響與技術(shù)擔(dān)憂。

2023年第二季度最常被提及的五大新興風(fēng)險(xiǎn)

Gartner調(diào)查顯示，生成式AI已成企業(yè)面臨的重大新興風(fēng)險(xiǎn)

來(lái)源：Gartner（2023年8月）

生成式AI的大規(guī)模普及

Gartner此前已經(jīng)確定了生成式AI的六大風(fēng)險(xiǎn)，以及與功能保障相關(guān)的四大AI監(jiān)管領(lǐng)域。Gartner專(zhuān)家表示，在管理企業(yè)風(fēng)險(xiǎn)方面，必須解決以下三大核心難題：

• 知識(shí)產(chǎn)權(quán)Xu解釋道，“被輸入給生成式AI工具的信息，可以作為其訓(xùn)練數(shù)據(jù)集的一部分。也就是說(shuō)，其中包含的敏感或機(jī)密信息可能最終會(huì)被輸出給其他用戶。此外，使用這些工具生成的輸出，也很可能會(huì)在無(wú)意間侵犯其他工具使用者的知識(shí)產(chǎn)權(quán)。”

解決問(wèn)題的關(guān)鍵，是教育企業(yè)領(lǐng)導(dǎo)者在使用此類(lèi)工具時(shí)保持謹(jǐn)慎態(tài)度和透明公開(kāi)，以便立足生成式AI工具的輸入和輸出層面妥善控制知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)。

• 數(shù)據(jù)隱私

生成式AI工具可能會(huì)在不事先通知的情況下，與其他第三方（例如供應(yīng)商或服務(wù)提供商）共享用戶信息，而這很可能違反多個(gè)司法管轄區(qū)的隱私法條款。例如，中國(guó)和歐盟已經(jīng)開(kāi)始實(shí)施監(jiān)管，美國(guó)、加拿大、印度和英國(guó)等國(guó)家也提出了監(jiān)管建議。

• 網(wǎng)絡(luò)安全Xu指出，“黑客總是出于自己的目的積極測(cè)試新技術(shù)，尋求能夠損害新技術(shù)的方法，生成式AI當(dāng)然也不例外。我們已經(jīng)看到有生成式AI在誘導(dǎo)之下生成惡意軟件和勒索軟件代碼的例子；還包括「提示詞注入」攻擊，即通過(guò)精心設(shè)計(jì)的提示詞詐騙AI工具泄露自己本不該輸出的信息。種種趨勢(shì)正導(dǎo)致高級(jí)網(wǎng)絡(luò)釣魚(yú)攻擊走向工業(yè)化、量產(chǎn)化的道路。”

第三方生存風(fēng)險(xiǎn)的根源和影響

Xu解釋道，“持續(xù)不斷的通貨膨脹幾乎不受加息政策的緩解，而且持續(xù)時(shí)間也比預(yù)期更長(zhǎng)，這加劇了第三方機(jī)構(gòu)的成本和利潤(rùn)壓力。隨著美國(guó)央行不斷提高利率以對(duì)抗通脹，信貸緊縮周期必然隨之來(lái)臨，且很可能迫使供應(yīng)商暫停運(yùn)營(yíng)、甚至因借貸成本上升而資不抵債。”

如果經(jīng)濟(jì)狀況普遍惡化，也可能導(dǎo)致需求進(jìn)一步下降，從而影響第三方供應(yīng)商的生存能力、或者是及時(shí)交付商品/服務(wù)的能力。Gartner專(zhuān)家指出了由第三方生存問(wèn)題引發(fā)的三種潛在后果，供風(fēng)險(xiǎn)管理者根據(jù)實(shí)際情況進(jìn)行監(jiān)控：

• 關(guān)鍵投入與材料損失：如果第三方供應(yīng)商因?yàn)楹暧^經(jīng)濟(jì)形勢(shì)而提高價(jià)格，則會(huì)引發(fā)關(guān)鍵投入與材料方面的顯著損失，因?yàn)榈谌綍?huì)更青睞愿意支付更高價(jià)格的客戶。
• 財(cái)務(wù)規(guī)劃假設(shè)或?qū)⒉怀闪ⅲ?/strong>當(dāng)供應(yīng)商提高價(jià)格或者意外倒閉時(shí)，原本的成本假設(shè)將不再成立，因此需要調(diào)整成本并提高獲取商品/服務(wù)的價(jià)格。
• 供應(yīng)鏈之外的挑戰(zhàn)：各合作伙伴（包括托管服務(wù)提供商、商業(yè)合作伙伴、債權(quán)人或者技術(shù)供應(yīng)商）可能會(huì)收縮甚至停止正常運(yùn)營(yíng)，給客戶方的業(yè)務(wù)運(yùn)轉(zhuǎn)造成重大影響。