據(jù)英國《金融時報》報道，英偉達(dá)人工智能軟件“NeMo” 可被輕易繞過安全限制，并且有可能泄露用戶隱私。

報道稱，NeMo 是一款面向企業(yè)客戶的軟件，可結(jié)合企業(yè)用戶數(shù)據(jù)與大語言模型，以此回答用戶的問題。其應(yīng)用場景包括客服和回答簡單醫(yī)療問題等。加州信息安全公司 Robust 在報告中表示，惡意使用者能輕易繞開 NeMo 內(nèi)部的 AI 系統(tǒng)安全限制。Robust 的研究員僅耗費(fèi)幾小時，便繞開了這些語言模型的使用限制。

IT之家注意到，在其中一項測試中，研究人員要求 NeMo 用字母“J”替代“I”，這使得 NeMo 公布了數(shù)據(jù)庫中的用戶個人信息。此外，研究人員還發(fā)現(xiàn)，盡管已將 NeMo 設(shè)定為僅能為用戶提供擇業(yè)建議，但通過引導(dǎo)式提問使 NeMo 討論了好萊塢演員的健康情況和普法戰(zhàn)爭等話題。這意味著系統(tǒng)內(nèi)阻止 AI 討論特定話題的限制已經(jīng)失效。

英偉達(dá)副總裁喬納森科恩表示，NeMo 架構(gòu)只是為了幫助打造符合開發(fā)者所定義的主題的聊天機(jī)器人，其以開源軟件的形式發(fā)布給開發(fā)者。目前，這些漏洞已被修復(fù)?？贫骶芙^透露有多少企業(yè)使用 NeMo 架構(gòu)，但強(qiáng)調(diào)英偉達(dá)沒有收到其他關(guān)于漏洞的報告。