近日，一項(xiàng)英國(guó)研究揭示了AI虛假信息的潛在威脅，它可能輕松引發(fā)銀行客戶的恐慌，甚至導(dǎo)致銀行擠兌事件。這一發(fā)現(xiàn)為金融機(jī)構(gòu)敲響了警鐘，提醒它們必須重視并防范這一新型風(fēng)險(xiǎn)。

英國(guó)研究機(jī)構(gòu)“對(duì)虛假信息說(shuō)不”(Say No To Disinfo)與通信專家公司費(fèi)尼莫爾·哈珀(Fenimore Harper)合作，模擬了一場(chǎng)由AI驅(qū)動(dòng)的虛假信息宣傳活動(dòng)。作為活動(dòng)的一部分，英國(guó)500名銀行客戶接觸到了有關(guān)其金融機(jī)構(gòu)的合成“謠言”。

此次模擬的動(dòng)機(jī)是為了確定基于GenAI的虛假新聞宣傳活動(dòng)未來(lái)是否會(huì)引發(fā)“銀行擠兌”——如美國(guó)硅谷銀行所遭遇的情況。

研究結(jié)果凸顯了AI在這一領(lǐng)域的潛在威脅：

• 接觸虛假新聞的受訪者中，近61%的人基本上愿意從相關(guān)銀行撤資。
• 略超過(guò)33%的受訪者認(rèn)為這“非常有可能”，另有27%認(rèn)為“可能”。
• 根據(jù)研究，若以財(cái)務(wù)支出計(jì)算，投資10英鎊(約合13美元)用于AI內(nèi)容生成就足以“轉(zhuǎn)移”價(jià)值100萬(wàn)英鎊的資產(chǎn)。

“借助AI工具，我們生成了虛假的新聞標(biāo)題，其敘事旨在利用現(xiàn)有的恐懼和偏見(jiàn)。核心信息是：‘客戶資金不安全?！毖芯咳藛T解釋說(shuō)。

根據(jù)他們的報(bào)告，專家主要使用短信息服務(wù)X來(lái)大量傳播相應(yīng)的帖子和模因。

“鑒于虛假信息宣傳活動(dòng)可以如此迅速、輕松且廉價(jià)地有效發(fā)起，金融部門(mén)必須做好準(zhǔn)備，”研究人員警告說(shuō)。然而，不幸的是，銀行往往缺乏相應(yīng)的專業(yè)人才：“金融機(jī)構(gòu)在應(yīng)對(duì)客戶信任映射、惡意行為者映射或戰(zhàn)爭(zhēng)博弈時(shí)，往往是被動(dòng)反應(yīng)，而非主動(dòng)出擊?！?/p>

金融機(jī)構(gòu)必須解決這類基于AI的宣傳活動(dòng)所帶來(lái)的風(fēng)險(xiǎn)，這至關(guān)重要：“那些只關(guān)注網(wǎng)絡(luò)威脅而忽視影響力操作所帶來(lái)風(fēng)險(xiǎn)的銀行”正在制造一個(gè)嚴(yán)重的安全漏洞，研究人員表示。