?大數(shù)據(jù)文摘出品

就在昨天，OpenAI 宣布推出一個賞金計劃，幫助應(yīng)對ChatGPT帶來的日益增長的網(wǎng)絡(luò)安全風(fēng)險。

這個「賞金獵人計劃」邀請各類獨立研究人員報告OpenAI系統(tǒng)中的漏洞，參與者有機會獲得200美元至2萬美元不等的經(jīng)濟獎勵，具體金額取決于漏洞的嚴重程度。

該項目與眾包網(wǎng)絡(luò)安全公司BugCrowd合作開展的，OpenAI 表示，該項目是其“致力于開發(fā)安全、先進的人工智能”的一部分。

所以說，大家如果再在和ChatGPT聊天的過程中，發(fā)現(xiàn)什么漏洞（比如動不動就要毀滅人類）的話，一定要及時上報，萬一能幫助發(fā)現(xiàn)一個漏洞，就可以拿賞金了！

ChatGPT 誕生以來，人們越來越擔心這類的人工智能系統(tǒng)出現(xiàn)漏洞，比如生成錯誤信息和不道德的信息，據(jù)人工智能網(wǎng)絡(luò)安全公司 Dark Trace 稱，研究人員發(fā)現(xiàn)，從1月到2月，使用人工智能的社交工程攻擊增加了135% ，這與 ChatGPT 的推出時間相吻合。

ChatGPT 的出現(xiàn)，無疑降低了網(wǎng)絡(luò)攻擊的門檻，尤其是新推出的 ChatGPT 4.0。

就在 ChatGPT 4.0 推出幾天后，華盛頓大學(xué)計算機科學(xué)專業(yè)的學(xué)生 Alex Albert 找到了一種超越其安全機制的方法。在 Twitter 上發(fā)布的一個演示中，Albert 展示了用戶如何通過利用  GPT-4 解釋和響應(yīng)文本的方式中的漏洞，提示 GPT-4 生成黑客計算機的指令。

這一賞金計劃正是為了解決這一系列安全問題引發(fā)的廣泛擔憂，此前，一位名為 Rez0 的安全研究人員涉嫌利用一個漏洞攻擊 ChatGPT 的 API，并發(fā)現(xiàn)了80多個秘密插件。

鑒于這些爭議， OpenAI 啟動了這個賞金獎勵，鼓勵研究員報告漏洞，以解決其產(chǎn)品生態(tài)系統(tǒng)中的缺陷，同時將自己定位為一個真誠行事的組織，以解決由生成性 AI 帶來的安全風(fēng)險。

專家：「賞金計劃」效果有限

盡管 OpenAI 的計劃受到一些專家的歡迎，但其他專家表示，賞金計劃不太可能完全解決日益尖端的人工智能技術(shù)帶來的廣泛網(wǎng)絡(luò)安全風(fēng)險。

專家認為，OpenAI 的賞金計劃在它處理的威脅范圍上非常有限。例如，賞金計劃的官方頁面指出：“與示范提示和響應(yīng)內(nèi)容有關(guān)的問題嚴格超出了范圍，除非它們對范圍內(nèi)的服務(wù)產(chǎn)生了額外的、可直接驗證的安全影響，否則將不會得到獎勵?！?/p>

被認為超出范圍的安全問題的例子包括越獄和繞開安全模式，讓模型“說壞話（不道德的言論）”，讓模型編寫惡意代碼或者讓模型告訴你如何將壞事付諸行動。

從這個意義上說，OpenAI 的錯誤賞金計劃可能有助于幫助組織改善自身的安全態(tài)勢，但對解決由生成性 AI 和 GPT-4給整個社會帶來的安全風(fēng)險幾乎沒有作用。

所以許多人認為，由于該項目的范圍僅限于可能直接影響 OpenAI 系統(tǒng)和合作伙伴的漏洞，它似乎沒有解決對惡意使用諸如模仿、合成媒體或自動黑客工具等技術(shù)的更廣泛的擔憂。

OpenAI 沒有立即回應(yīng)媒體的置評請求。

相關(guān)報道：

https://venturebeat.com/security/openai-announces-bug-bounty-program-to-address-ai-security-risks/

https://bugcrowd.com/openai