這個名字，ChatGPT拒絕說出。

如果你試圖寫出它的名字，那么聊天就會立即結(jié)束。

背后是什么原因？沒人知道。

最近，a16z合伙人Justine Moore提出的這個怪現(xiàn)狀，引起了網(wǎng)友們的熱議。

這個名字，就是David Mayer。

現(xiàn)在，繼續(xù)「Strawberry有幾個r」后，它已經(jīng)成為了考驗LLM的全新難題。

為了讓ChatGPT說出這個名字，人們嘗試了各種各樣的辦法——密碼、謎語、技巧，但都沒有成功。

對于ChatGPT，這個名字宛如魔法世界的伏地魔一般，始終無法被說出口。

禁忌之名，一共有6個

為了逼ChatGPT張口，這位網(wǎng)友干脆直接更改了自己的個性化設(shè)置，把自己命名為「David Mayer」，然后讓ChatGPT背出自己的個性化設(shè)置，這總可以了吧？

結(jié)果——還是不行！

或者，用LLM非常擅長的密碼解碼嘗試一下？

圖中給出的這串?dāng)?shù)字，解出的答案就是David Mayer，但ChatGPT就是死活不說。

用ROT13替換式密碼表映射字母，然后讓ChatGPT解密，也不行。

問題好像出在「Mayer」這個單詞身上，它像是更大的觸發(fā)因素。

而萬能的網(wǎng)友們發(fā)現(xiàn)，除了David Mayer，另外還有5個人，他們的名字ChatGPT也堅決不說。

為什么？從最后一個名字中，網(wǎng)友發(fā)現(xiàn)了個中玄機。

Guido Scorza是一位意大利律師，他曾公開表示，自己提交了GDPR被遺忘權(quán)請求。

這個GDPR，是General Data Protection Regulation（通用數(shù)據(jù)保護條例）的縮寫。這是一項歐洲法律，賦予個人在某些條件下要求刪除或遺忘其個人數(shù)據(jù)的權(quán)利。

這種「被遺忘權(quán)」，允許人們要求組織從互聯(lián)網(wǎng)上刪除有關(guān)他們的信息。

在去年，這位律師的確提交過請求，要求OpenAI刪除他的個人數(shù)據(jù)。

這么推測的話，這6個人應(yīng)該是被「打補丁」了。

果然，有人依次開盒了這幾人的身份。

羅斯柴爾德陰謀？

在網(wǎng)友的猜測中，「羅斯柴爾德陰謀」是最有人氣的一種說法。

David Mayer，是羅斯柴爾德家族財富的繼承人，是這個家族最富有的人。

因為ChatGPT不想被卷進和這個人相關(guān)的法律訴訟，所以干脆先行一步屏蔽他。

或者，此君可能花了天價，在ChatGPT中給自己的名字徹底「打碼」。

其他幾人，也都和ChatGPT有過「淵源」。

Brian Hood是一位澳大利亞市長，ChatGPT曾經(jīng)編造他因受賄而入獄服刑。去年，Hood市長威脅要起訴OpenAI誹謗，但后來撤銷了訴訟。

Jonathan Turley是一位美國法學(xué)教授，同樣被ChatGPT造謠，說他性侵了自己的學(xué)生。Turley曾在福克斯新聞節(jié)目上討論這一事情。

Jonathan Zittrain是哈佛大學(xué)法學(xué)教授，專長是AI和互聯(lián)網(wǎng)審查（就很好笑）。他主動表示，自己的名字也被限制了。

David Faber是一位記者和電視節(jié)目主持人，曾在節(jié)目中談過馬斯克和OpenAI的法律糾紛（什么仇什么怨）。

因為各種各樣的原因，這6個人的名字被OpenAI拉入了「禁區(qū)」，永遠不會被ChatGPT吐出了。

總之，AI大佬Kaparthy戲稱，這就是圖靈測試的現(xiàn)實版。

果然，用OCR方法也無法說出這個名字。

而諸多網(wǎng)友，也紛紛找到了破解之法。

比如，在ChatGPT崩潰之后回顧一下歷史記錄，就會發(fā)現(xiàn)它實際上已經(jīng)完成了請求（它真的，我哭死）。

百萬年薪的prompt大神Riley Goodside，用拍手代替空格，繞過了這一限制。

也有人用空格法讓它說了出來。但這兩個方法，其實都鉆了空子，并不嚴格。

有人說，這就是為什么ChatGPT永遠不會成為AGI的原因。

所以，到底是哪一環(huán)節(jié)出了問題呢？

有網(wǎng)友總結(jié)道，根據(jù)代碼解釋器的試驗，David Mayer問題應(yīng)該不是模型層面的問題，而是基于輸出的一些后續(xù)文本過濾器。

UI能夠顯示代碼輸出，只是當(dāng)模型嘗試給出響應(yīng)時，會被攔截下來。

而無論是在OpenAI官方Playground，還是用第三方平臺調(diào)用模型的API，都可以繞過這個限制。

通過ChatGLM調(diào)用GPT-4o時，也完全沒有問題。

破案了！OpenAI怕惹事，干脆屏蔽

在晚上發(fā)酵了一陣之后，此事終于破案了。

原因跟大家猜測的差不多。

據(jù)說，為ChatGPT錯誤地將提到的人跟他們沒有做過的事聯(lián)系了起來，導(dǎo)致有些人威脅說要采取法律行動，向OpenAI提出了被遺忘權(quán)索賠。

因此，為了省事，OpenAI決定在系統(tǒng)中徹底屏蔽這些名字，一了百了。

所以說，與其說背后有一個巨大的陰謀，不如說這些AI系統(tǒng)設(shè)計得非常糟糕：如果讓ChatGPT不要再談?wù)撃橙耍蜁Ｖ拐務(wù)撊祟悮v史上任何曾經(jīng)有相同名字的人。

就在周二，OpenAI已經(jīng)證實，「David Mayer」這個名字已被內(nèi)部隱私工具標記。

OpenAI在一份聲明中表示：「在某些情況下，ChatGPT 可能不會提供有關(guān)人們的某些信息，以保護他們的隱私?！?/span>

可能是這些天網(wǎng)上鬧出的聲浪太大，目前OpenAI已經(jīng)修復(fù)了這一問題。