整理 | 言征

ChatGPT插件剛火了不到一天，就被爆出嚴(yán)重問題了！

當(dāng)?shù)貢r間，24日晚9點，一位推特上昵稱“rez0”的技術(shù)駭客（ 同時也是一位prompt工程師），在研究破解新的ChatGPT API時發(fā)現(xiàn)了一個非常有趣的事情：通過從API調(diào)用中刪除特定參數(shù)就能獲得80多個秘密插件，包括：DAN插件、加密貨幣價格插件、Wolfram插件、Instacart插件等等。

API還顯示了本不需要向用戶展示的“模型描述”部分，這是非常有安全風(fēng)險的：因為這部分暴露了模型是如何被告知使用插件的。

此前，rez0曾懷疑未發(fā)布的插件可以通過HTTP代理設(shè)置“匹配和替換”規(guī)則來使用，只有客戶端會檢查你是否有權(quán)使用這些插件，并可以繞過該審查。但很快rez0澄清了，這個猜測不正確。因為——API要么返回的是未經(jīng)審查的插件，要不就不返回。

這下網(wǎng)友炸鍋了：明明擁有最強大的技術(shù)，但行為卻像是個業(yè)余選手~~

Rez0聲稱目前這個Bug已經(jīng)被修復(fù)。

此前，周一就被曝出ChatGPT存在用戶隱私漏洞，部分功能被限制使用，許多人的歷史對話標(biāo)題會出現(xiàn)在其他人聊天框內(nèi)。

ChatGPT之父Sam也為此事發(fā)推道歉，聲稱問題出現(xiàn)在一個開源庫，并刪除了ChatGPT當(dāng)天的10個小時聊天記錄來修復(fù)這場Bug。

一、ChatGPT插件的風(fēng)險，還有很多

OpenAI近日推出了ChatGPT 插件，通過授予機器人訪問第三方知識源和數(shù)據(jù)庫（包括網(wǎng)絡(luò)）的權(quán)限來擴(kuò)展機器人的功能。OpenAI向waitlist上的ChatGPT用戶和開發(fā)人員提供alpha版，OpenAI表示，在推出更大規(guī)模和API訪問之前，它會優(yōu)先考慮少數(shù)開發(fā)人員和使用其高級ChatGPT Plus計劃的訂閱者。

1.網(wǎng)絡(luò)瀏覽插件：引用來源容易誤導(dǎo)

最吸引人的插件無疑是OpenAI的第一方網(wǎng)絡(luò)瀏覽插件，它允許ChatGPT從網(wǎng)絡(luò)上提取數(shù)據(jù)以回答向它提出的各種問題。（以前，ChatGPT的知識僅限于2021年9月之前的日期、事件和人物。）該插件使用Bing搜索API從網(wǎng)絡(luò)上檢索內(nèi)容，并顯示它在制作答案時訪問過的任何網(wǎng)站，并在ChatGPT的回復(fù)中引用其來源。

OpenAI自己的研究成果也認(rèn)為風(fēng)險不會消除。該公司于2021年構(gòu)建了一個名為WebGPT的實驗系統(tǒng)，該系統(tǒng)有時會引用不可靠的來源，系統(tǒng)還會被激勵從能夠讓用戶會覺得有說服力的網(wǎng)站中挑選數(shù)據(jù)——即使這些來源客觀上并不是最有信服力的。Meta已解散的BlenderBot 3.0也可以訪問網(wǎng)絡(luò)，并迅速偏離正軌，在出現(xiàn)特定文本提示時，會明顯顯示出陰謀論和令人反感的內(nèi)容。

圖片來源：OpenAI

2.實時數(shù)據(jù)組織程度差，結(jié)果容易被玩弄

與靜態(tài)訓(xùn)練數(shù)據(jù)集相比，實時網(wǎng)絡(luò)的數(shù)據(jù)組織程度、過濾清洗程度只會更少。谷歌和Bing等搜索引擎使用自己的安全機制來減少不可靠內(nèi)容出現(xiàn)在結(jié)果頂部的可能性，但這些結(jié)果可以被玩弄。它們也不一定代表整個網(wǎng)絡(luò)。而且，Google的算法會優(yōu)先考慮使用加密、移動支持和模式標(biāo)記等現(xiàn)代網(wǎng)絡(luò)技術(shù)的網(wǎng)站。結(jié)果，許多具有其他優(yōu)質(zhì)內(nèi)容的網(wǎng)站在“洗牌”中漸漸埋沒了。

也就是說，搜索引擎可能會對連接互聯(lián)網(wǎng)的語言模型的答案，產(chǎn)生很大的影響。谷歌往往在搜索中優(yōu)先考慮自己的服務(wù)，例如，使用來自谷歌地方的數(shù)據(jù)，而不是像第三方如TripAdvisor這樣更豐富、更社交的來源來回答旅行查詢。與此同時，搜索算法也為不良分子打開了大門。2020 年，Pinterest利用谷歌圖像搜索算法的一個“怪癖”，在谷歌圖像搜索中展示了更多內(nèi)容 。

二、OpenAI的承諾猶在耳

OpenAI承認(rèn)，支持網(wǎng)絡(luò)的ChatGPT可能會執(zhí)行所有類型的不良行為，例如發(fā)送欺詐性和垃圾郵件、繞過安全限制以及通?！霸黾悠墼p、誤導(dǎo)或濫用他人的不良行為者的能力”。但該公司還表示，它已根據(jù)內(nèi)部和外部“紅隊”通知“實施了幾項保障措施”以防止這種情況發(fā)生。時間會證明它們是否足夠應(yīng)對這些。

除了網(wǎng)絡(luò)插件之外，OpenAI還為ChatGPT發(fā)布了一個代碼解釋器，它為聊天機器人提供了一個在沙盒、防火墻環(huán)境、磁盤空間中工作的Python解釋器。它支持上傳文件到ChatGPT并下載結(jié)果；OpenAI表示，它對于解決數(shù)學(xué)問題、進(jìn)行數(shù)據(jù)分析和可視化以及在格式之間轉(zhuǎn)換文件特別有用。

圖片來源：OpenAI

OpenAI的許多早期合作者為ChatGPT構(gòu)建了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier。

至于插件的用途，不言自明。例如，OpenTable插件允許ChatGPT跨多個餐廳，搜索可用預(yù)訂，而Instacart 插件允許ChatGPT從本地商店下訂單。迄今為止，Zapier是同類產(chǎn)品中最具可擴(kuò)展性的，它可以與Google表格、Trello和Gmail等應(yīng)用程序連接，以觸發(fā)一系列生產(chǎn)力任務(wù)。

為了方便新插件的創(chuàng)建，OpenAI開源了一個“檢索”插件，使ChatGPT能夠通過用自然語言提問來訪問來自文件、筆記、電子郵件或公共文檔等數(shù)據(jù)源的文檔片段。

“我們正在努力開發(fā)插件，并將它們帶給更廣泛的受眾，”O(jiān)penAI在一篇博文中寫道。“我們有很多東西要學(xué)，在大家的幫助下，我們希望打造出既有用又安全的東西。”

三、寫在最后

插件是ChatGPT開發(fā)時間表中一個相當(dāng)新奇的補充。一旦僅限于其訓(xùn)練數(shù)據(jù)中的信息，ChatGPT有了插件，突然變得更加強大——而且承擔(dān)的法律風(fēng)險也可能更低。

一些專家指責(zé)OpenAI從訓(xùn)練ChatGPT的未經(jīng)許可的任務(wù)中獲利；ChatGPT的數(shù)據(jù)集包含各種公共網(wǎng)站。但是插件可以通過允許公司保留對其數(shù)據(jù)的完全控制來解決這個問題。

總之，希望ChatGPT能夠盡快完善，盡量少犯些“初級錯誤”吧。而使用者也要客觀對待新事物，謹(jǐn)慎使用。

參考鏈接：https://techcrunch.com/2023/03/23/openai-connects-chatgpt-to-the-internet/