當(dāng)有人問我，“AI 對(duì)企業(yè)構(gòu)成什么風(fēng)險(xiǎn)？”時(shí)，我會(huì)反問：“你擔(dān)心哪種 AI？” 許多領(lǐng)導(dǎo)者不知道AI有多種形式，所以我需要確保我們談?wù)摰氖峭患隆?/p>

Naveen Joshi 在一篇很好的《福布斯》文章中討論了定義或分類 AI 的七種方式，他描述了四種主要的 AI 處理類型：反應(yīng)型、有限記憶型、心智理論型和自我意識(shí)型，然后，他提出了三種廣泛的 AI 類型：人工窄智能（ANI）、人工通用智能（AGI）和人工超智能（ASI）。

目前只有前兩種 AI 存在。IBM 的 Deep Blue 是反應(yīng)型的例子（它沒有記憶，必須編程完成所有任務(wù)），而 Alexa 和 Siri 是有限記憶 AI 的例子。當(dāng)人們談?wù)?AI 時(shí)，大多數(shù)人想到的是有限記憶 AI。

當(dāng)你想到有限記憶 AI 時(shí)，你可能不會(huì)用這些術(shù)語來考慮它。你想到的是使用機(jī)器學(xué)習(xí)（ML）、預(yù)測(cè)分析（PA）或具有生成預(yù)訓(xùn)練（GPT）接口的大型語言模型（LLM）的工具，例如 ChatGPT。

現(xiàn)在我們定義了術(shù)語，你可能在思考 GPT 工具（如 ChatGPT、微軟的 Copilot 或谷歌的 Gemini）給你的企業(yè)或組織帶來的風(fēng)險(xiǎn)。盡管這個(gè)話題已經(jīng)被廣泛討論過，但我會(huì)強(qiáng)調(diào)主要風(fēng)險(xiǎn)，然后討論我見過的威脅行為者如何利用它們，以及你可以如何保護(hù)你的組織。

GPT工具的四大主要風(fēng)險(xiǎn)

首先，以下是 GPT 工具的四大主要風(fēng)險(xiǎn)。

1. 社交攻擊：像 ChatGPT 這樣的工具可以從簡(jiǎn)單的提示中寫出極具說服力的釣魚郵件，其他 GPT 工具可以創(chuàng)建聽起來像真人的釣魚電話或假視頻（付費(fèi)墻），可以在視頻通話中欺騙人。我們不能再依賴舊的方法來識(shí)別釣魚郵件、電話詐騙或視頻深度偽造。

2. 準(zhǔn)確性：GPT 工具可以給出正確、不正確或介于兩者之間的結(jié)果。問題在于 AI 會(huì)極為自信地呈現(xiàn)錯(cuò)誤答案。生成的回答可能是 100% 錯(cuò)誤的，但聽起來 100% 正確。作為工具的用戶，你必須已經(jīng)知道答案是對(duì)是錯(cuò)，或者大部分對(duì)或錯(cuò)，而且，如果你認(rèn)為重復(fù)性是準(zhǔn)確性的標(biāo)志，那就再想想吧：你不會(huì)每次都得到相同的答案。GPT 工具不是確定性的，這意味著你在問問題之前真的需要知道正確答案。

3. 數(shù)據(jù)隱私：有無數(shù)例子表明，員工將敏感或機(jī)密的公司數(shù)據(jù)上傳到開放的 GPT 工具中，這些數(shù)據(jù)隨后被納入該工具的訓(xùn)練數(shù)據(jù)中。《福布斯》撰稿人 Gene Marks 的一篇文章詳細(xì)介紹了使用 GPT 工具幫助進(jìn)行業(yè)務(wù)流程（如分析電子表格、記錄會(huì)議記錄和總結(jié)文件）的風(fēng)險(xiǎn)。你需要知道你的數(shù)據(jù)在哪里，并確保它不會(huì)最終進(jìn)入 AI。

4.數(shù)據(jù)中毒：由于生成工具需要大數(shù)據(jù)集，開發(fā)者通常在數(shù)十億個(gè)網(wǎng)站上訓(xùn)練工具，如 ChatGPT 和 Gemini。谷歌最近與 Reddit 合作，使谷歌搜索結(jié)果中更容易包含 Reddit 的內(nèi)容，這既有利也有弊。好處是所有人類生成的內(nèi)容現(xiàn)在都可以快速搜索，但壞處是 Reddit 上那些搞笑的、諷刺的和誤導(dǎo)性的帖子也得到了提升。一個(gè)例子是谷歌自己的 AI 搜索，當(dāng)被問到如何讓奶酪更好地粘在披薩上時(shí)，返回了 Reddit 上建議在披薩上加入無毒膠水的結(jié)果。

緩解風(fēng)險(xiǎn)

現(xiàn)在我們已經(jīng)確定了四個(gè)風(fēng)險(xiǎn)，如何緩解這些風(fēng)險(xiǎn)？幸運(yùn)的是，準(zhǔn)備充分且對(duì) AI 了解的網(wǎng)絡(luò)安全團(tuán)隊(duì)正在應(yīng)對(duì)組織面臨的風(fēng)險(xiǎn)，以下是一些你可以使用的工具。

1. 社交攻擊：網(wǎng)絡(luò)安全公司已經(jīng)整合了機(jī)器學(xué)習(xí)和預(yù)測(cè)分析技術(shù)超過十年，以防止釣魚郵件。不要僅依賴安全工具來防止社交工程攻擊，但可以從這里開始。有許多免費(fèi)的 AI 檢測(cè)工具可以幫助確定郵件是否由生成 AI 編寫。事實(shí)上，你甚至可以將郵件粘貼到 ChatGPT 中，問它是否編寫了這封郵件。

2. 準(zhǔn)確性：雖然正在開發(fā)監(jiān)控生成內(nèi)容的工具，但最好的工具是人工監(jiān)督。如果在生成 AI 循環(huán)中移除人工監(jiān)督，企業(yè)將面臨財(cái)務(wù)損失。你需要謹(jǐn)慎行事，同時(shí)評(píng)估 AI 模型的準(zhǔn)確性。

3. 數(shù)據(jù)隱私：最小化員工將組織數(shù)據(jù)上傳到 GPT 系統(tǒng)的風(fēng)險(xiǎn)的解決方案是將政策和治理與數(shù)據(jù)丟失防護(hù)工具結(jié)合起來。員工需要知道他們可以和不能上傳到 ChatGPT 和其他生成 AI 工具的內(nèi)容，因此需要向所有員工傳達(dá) AI 政策。

4. 數(shù)據(jù)中毒：為了幫助防止數(shù)據(jù)中毒，實(shí)施數(shù)據(jù)清理、定期監(jiān)控和安全數(shù)據(jù)處理，這些控制措施是你在任何時(shí)候?qū)?yīng)用程序暴露在互聯(lián)網(wǎng)時(shí)所采取的措施。

如果你的企業(yè)打算采用GenAI，請(qǐng)從這些簡(jiǎn)單的步驟開始，這樣，你將能夠更好地控制和受益于AI，而不是創(chuàng)造風(fēng)險(xiǎn)。