3 月 3 日消息，國際網(wǎng)絡(luò)安全團隊近日研發(fā)了新型 AI 蠕蟲病毒，能夠在生成式人工智能服務(wù)之間獨立傳播、竊取數(shù)據(jù)并通過電子郵件發(fā)送垃圾郵件。

伴隨著 OpenAI ChatGPT 和 Google Gemini 等生成式 AI 系統(tǒng)的快速發(fā)展，AI 開始被應(yīng)用于解決某個特定問題或者任務(wù)，例如創(chuàng)建日歷項、訂購某件物品等等。

網(wǎng)絡(luò)安全技術(shù)研究人員表明生成式 AI 存在漏洞，并將其命名為“Morris II”。

IT之家在這里簡要介紹下這個名稱的背景，Morris 被認為是人類發(fā)現(xiàn)的第一個計算機蠕蟲病毒，于 1988 年被發(fā)現(xiàn)，感染了超過 6200 臺計算機，占當時連接到互聯(lián)網(wǎng)的所有計算機的 10%。

“Morris II”可以基于生成式 AI，繞過了 ChatGPT 和 Gemini 的保護，能從電子郵件中竊取數(shù)據(jù)并發(fā)送垃圾郵件。

研究作者表示在沙盒環(huán)境中測試了新的攻擊模型，但目前尚未在實踐中被發(fā)現(xiàn)，不過個人開發(fā)者、初創(chuàng)企業(yè)和科技公司都應(yīng)考慮到這一威脅。

大多數(shù)生成式人工智能系統(tǒng)的工作原理是接收文本指令：要求回答問題或創(chuàng)建圖像。

這些命令可以用來對付系統(tǒng)，使其忽略安全措施并生成不恰當?shù)膬?nèi)容；還可以向系統(tǒng)發(fā)出隱含指令，例如，向其提供一個隱藏有此類命令文本的惡意網(wǎng)頁地址。

攻擊生成式人工智能的蠕蟲病毒的運行原理基于“對抗性自我復制提示”機制。這種命令會導致生成式人工智能模型發(fā)出另一條命令作為回應(yīng)，這很像 SQL 注入和緩沖區(qū)溢出等傳統(tǒng)攻擊模式。

為了演示該蠕蟲的工作原理，研究人員通過連接 ChatGPT、Gemini 和開源 LlaVA 模型，創(chuàng)建了一個可以使用生成式人工智能接收和發(fā)送信息的電子郵件服務(wù)。

然后，他們使用自我復制的文本指令和嵌入圖像文件的類似指令兩種方法，成功利用人工智能漏洞發(fā)起攻擊。

研究報告的作者指出，由于人工智能生態(tài)系統(tǒng)的架構(gòu)設(shè)計錯誤，這些攻擊方法成為可能。他們與谷歌和 OpenAI 分享了他們的發(fā)現(xiàn)--OpenAI 證實了威脅的存在，但補充說該公司正在努力提高其系統(tǒng)的穩(wěn)定性，而谷歌拒絕發(fā)表評論。