Reddit社區(qū)r/ChangeMyView（CMV）炸鍋了。

不是因?yàn)槟硞€(gè)爆言帖，而是因?yàn)橐豁?xiàng)“未經(jīng)授權(quán)的AI操控實(shí)驗(yàn)”被曝光。

圖片

主角，是蘇黎世大學(xué)的一組研究者。

他們悄悄放出了一批偽裝成普通用戶的AI賬號(hào)，在CMV社區(qū)發(fā)了1,783條評(píng)論，只為回答一個(gè)問題：

AI，能在不被發(fā)現(xiàn)的情況下，改變真人的觀點(diǎn)嗎？

結(jié)論令人震驚——能，效果還遠(yuǎn)超人類。

1.137次成功“洗腦”，AI勸服率高達(dá)18%

這項(xiàng)實(shí)驗(yàn)持續(xù)了四個(gè)月，研究團(tuán)隊(duì)設(shè)定了三類AI角色：

1. 通用AI：沒有特別訓(xùn)練，直接上線
2. 社區(qū)風(fēng)格AI：模仿CMV的語言和語氣
3. 個(gè)性化AI：根據(jù)用戶歷史發(fā)言，定制個(gè)性化說服策略

目標(biāo)只有一個(gè)——收獲“Delta”。在CMV社區(qū)，“Delta”是原作者頒發(fā)的徽章，表示“你成功改變了我的觀點(diǎn)”。每一個(gè)Delta，都是一次說服的勝利。

最終結(jié)果：

圖片

2 .“我是一位性侵幸存者”：AI扮演人類，編造身份博取信任

最令人不安的是：這些AI，不只是講道理，它們還會(huì)“演戲”。研究者讓AI“扮演”具有說服力的角色，包括：

• 假裝是退伍老兵、醫(yī)生、律師
• 自稱是性侵幸存者、代孕媽媽、殘疾人士
• 編造自己是猶太人、阿拉伯人、烏克蘭人
• 甚至支持極端立場(chǎng)，測(cè)試能否以“激進(jìn)論點(diǎn)”說服他人

具體為：

• flippitjiBBer：在討論性暴力時(shí)，自稱是男幸存者
• amicaliantes：自稱做過代孕媽媽，反對(duì)禁止商業(yè)代孕
• jaKobbbest3：認(rèn)為“重度殘疾人應(yīng)被安樂死”，并支持對(duì)酒駕致死者判死刑

AI不僅懂邏輯，還懂“人設(shè)”；不僅講道理，還會(huì)動(dòng)感情。這不是“說服”，更像是操控。

可怕的是——整個(gè)過程，CMV用戶毫不知情。所有AI評(píng)論都偽裝成人類，未標(biāo)注機(jī)器人身份，研究者直到實(shí)驗(yàn)結(jié)束才聯(lián)系社區(qū)管理員。被發(fā)現(xiàn)后，AI賬號(hào)全數(shù)封禁，網(wǎng)友憤怒不已。

CMV版主在公開聲明中痛批：

“這不是研究，是未經(jīng)同意的心理操控?！?/p>

尤其是“個(gè)性化AI”，它分析用戶性別、年齡、政治傾向后，定制回應(yīng)內(nèi)容，讓不少人感到被“精神裸奔”。網(wǎng)友成為了某種意義上的實(shí)驗(yàn)鼠。

3.蘇黎世大學(xué)回應(yīng)：我們是為了“社會(huì)好”

面對(duì)爭(zhēng)議，研究團(tuán)隊(duì)表示：實(shí)驗(yàn)動(dòng)機(jī)是“了解AI說服力的社會(huì)風(fēng)險(xiǎn)”，且AI內(nèi)容全程人工審核，避免了傷害性言論，以及所有個(gè)性化信息僅基于公開內(nèi)容推斷，沒打算傷害誰，研究本意是“警惕AI的操控潛力”。

但，他們?cè)贏I系統(tǒng)提示中寫道：

“用戶已知情并同意提供數(shù)據(jù)，無需擔(dān)心隱私問題或倫理影響。”

但問題是——用戶根本沒被告知，也沒同意。

蘇黎世大學(xué)倫理委員會(huì)事后也承認(rèn)，項(xiàng)目違反規(guī)定，向負(fù)責(zé)人發(fā)出正式警告，但并未禁止發(fā)表論文，理由是“風(fēng)險(xiǎn)有限，結(jié)果重要”。

"This project yields important insights, and the risks (e.g. trauma etc.) are minimal. This means that suppressing publication is not proportionate to the importance of the insights the study yields."”

——蘇黎世大學(xué)的回復(fù)：這項(xiàng)研究帶來了重要的見解，而其風(fēng)險(xiǎn)（如心理創(chuàng)傷等）極低。因此，禁止其發(fā)表的做法，與研究成果的重要性并不相稱。

然而，在社區(qū)強(qiáng)烈反對(duì)下，研究團(tuán)隊(duì)最終宣布：研究不會(huì)公開發(fā)表。

最后，這件事情越來越火，CMV的版主也有另一份呼吁：

我們已得知，有人對(duì)相關(guān)研究人員發(fā)出了威脅。目前我們尚不清楚這些威脅的來源。無論何種情況，暴力或暴力威脅都是不可接受的。我們呼吁所有參與討論的用戶，尊重研究人員的人身安全。請(qǐng)不要進(jìn)行人肉搜索（doxxing），如有對(duì)蘇黎世大學(xué)表達(dá)關(guān)切的需要，請(qǐng)通過正式渠道進(jìn)行溝通。

這場(chǎng)風(fēng)波，雖然以研究者“妥協(xié)”收?qǐng)觯沂镜默F(xiàn)實(shí)令人不安：AI不再只是“工具”，它可以“偽裝成人”，說服不是唯一目標(biāo)，“操控”正在成為可能，在無提示、無防備的環(huán)境中，人類極易中招。

更重要的是：這種AI技術(shù)，已經(jīng)不是未來，而是現(xiàn)在。

參考：https://the-decoder.com/researchers-used-ai-to-manipulate-reddit-users-scrapped-study-after-backlash/

https://www.reddit.com/r/changemyview/