人工智能技術(shù)作為一種顛覆性的“力量”，助力企業(yè)能夠創(chuàng)造出更新的、無(wú)與倫比的數(shù)字體驗(yàn)。然而，實(shí)施人工智能的實(shí)際情況卻異常復(fù)雜，如果沒(méi)有正確、安全的方法，就會(huì)大大增加企業(yè)的風(fēng)險(xiǎn)態(tài)勢(shì)。目前，許多企業(yè)急于利用人工智能，卻忽視了自身需要堅(jiān)實(shí)基礎(chǔ)的必要性，這種疏忽不僅會(huì)降低人工智能解決方案的有效性，還會(huì)使其面臨多種安全威脅。

企業(yè)對(duì)生成式人工智能充滿“熱情”

在企業(yè)構(gòu)建新的堆棧以支持不斷擴(kuò)大的人工智能驅(qū)動(dòng)的數(shù)字服務(wù)時(shí)，必須時(shí)刻強(qiáng)調(diào)企業(yè)在基礎(chǔ)設(shè)施、數(shù)據(jù)、模型、應(yīng)用服務(wù)和應(yīng)用層所面臨的挑戰(zhàn)，這些挑戰(zhàn)是企業(yè)想要廣泛、可擴(kuò)展以及長(zhǎng)久采用人工智能所必須克服的。

同時(shí)，研究表明企業(yè)對(duì)生成式人工智能技術(shù)是否會(huì)助力企業(yè)業(yè)務(wù)發(fā)展，非常樂(lè)觀，充滿熱情，很多受訪者將生成式人工智能技術(shù)評(píng)為 2024 年最令人興奮的技術(shù)趨勢(shì)。但非常有意思的是，只有 24% 的企業(yè)表示已經(jīng)大規(guī)模實(shí)施了生成式人工智能。

目前，生成式人工智能技術(shù)的應(yīng)用呈上升趨勢(shì)，但最常見(jiàn)的用例往往不具備“戰(zhàn)略”功能。很多受訪者表示，其公司內(nèi)部已經(jīng)部署的最常見(jiàn)用例包括協(xié)同機(jī)器人和其他員工生產(chǎn)力工具（40% 的受訪者正在使用）以及聊天機(jī)器人等客戶服務(wù)工具（36%）。

數(shù)據(jù)”成熟度“是實(shí)施人工智能面臨的巨大挑戰(zhàn)

調(diào)查過(guò)程中，企業(yè)領(lǐng)導(dǎo)者研究大規(guī)模部署基于人工智能的應(yīng)用所面臨的挑戰(zhàn)時(shí)，著重提到了在基礎(chǔ)設(shè)施層遇到的三個(gè)主要問(wèn)題：

• 62% 的人認(rèn)為計(jì)算成本是擴(kuò)展人工智能的主要問(wèn)題：
• 57% 的人認(rèn)為模型安全性是主要問(wèn)題，為解決這一問(wèn)題，企業(yè)領(lǐng)導(dǎo)者預(yù)計(jì)，隨著部署規(guī)模的擴(kuò)大，未來(lái)幾年在安全方面的支出將增加 44% ：
• 55% 的受訪者認(rèn)為模型各方面的性能是一個(gè)問(wèn)題。

在數(shù)據(jù)層，數(shù)據(jù)成熟度是影響人工智能廣泛實(shí)施的一個(gè)更為直接和潛在的巨大挑戰(zhàn)。其中，72% 的受訪者認(rèn)為數(shù)據(jù)質(zhì)量和無(wú)法擴(kuò)展數(shù)據(jù)實(shí)踐是擴(kuò)展人工智能的最大障礙，53% 的受訪者認(rèn)為缺乏人工智能和數(shù)據(jù)技能是主要障礙。

值得一提的是，盡管 53% 的企業(yè)表示他們已制定了明確的數(shù)據(jù)戰(zhàn)略，但超過(guò) 77% 的受訪企業(yè)表示他們?nèi)狈?shù)據(jù)的單一真實(shí)來(lái)源。

人工智能驅(qū)動(dòng)的攻擊、數(shù)據(jù)隱私、數(shù)據(jù)泄露等因素都是人工智能安全的首要問(wèn)題，網(wǎng)絡(luò)安全一直是人工智能技術(shù)服務(wù)提供商的主要擔(dān)憂。當(dāng)問(wèn)及計(jì)劃如何抵御人工智能技術(shù)帶來(lái)的威脅，以確保人工智能實(shí)施的安全時(shí)，受訪者將重點(diǎn)主要放在應(yīng)用程序接口安全、監(jiān)控、DDoS 保護(hù)等應(yīng)用程序服務(wù)上。

42% 的受訪者表示，公司內(nèi)部正在使用或計(jì)劃使用 API 安全解決方案來(lái)保護(hù)數(shù)據(jù)在人工智能訓(xùn)練模型中的安全，41% 的受訪者正在使用或計(jì)劃使用監(jiān)控工具來(lái)了解人工智能應(yīng)用程序的使用情況，39% 的受訪者正在使用或計(jì)劃使用 DDoS 保護(hù)來(lái)保護(hù)人工智能模型。

參考文章：https://www.helpnetsecurity.com/2024/06/18/ai-widespread-implementation-challenge/