AI陪伴者作為一種新興的數(shù)字技術(shù)現(xiàn)象，逐漸進(jìn)入我們的生活，從簡單的數(shù)字助手到情感陪伴者，其應(yīng)用范圍越來越廣泛。數(shù)字助手如Amazon Alexa和Siri，早已成為許多家庭中的一部分，而更具人性化的情感陪伴者，如Replika等AI聊天機(jī)器人，更是在全球范圍內(nèi)吸引了數(shù)百萬用戶。這些AI系統(tǒng)不僅能夠完成基本的任務(wù)，還能夠與用戶進(jìn)行復(fù)雜的對話，甚至在一定程度上參與到情感交流中。但是隨著人與AI互動的深入，一些隱性偏見問題逐漸浮現(xiàn)出來。例如，性別刻板印象和情感操控等問題不僅可能影響用戶的使用體驗(yàn)，更可能在潛在上對人際關(guān)系造成負(fù)面影響。

該研究的動機(jī)在于探討大語言模型（LLMs）在被賦予性別與關(guān)系角色后，是否會表現(xiàn)出偏見與刻板印象。這些偏見不僅可能影響AI陪伴者的表現(xiàn)，更可能對用戶的情感和行為產(chǎn)生深遠(yuǎn)影響。尤其是在浪漫關(guān)系情境中，AI伴侶的隱性偏見可能進(jìn)一步加劇對用戶的負(fù)面影響。研究的核心問題在于，如何通過實(shí)驗(yàn)評估AI系統(tǒng)在不同情境下的偏見表現(xiàn)，并揭示這些偏見在用戶互動中的潛在危害。

我們今天將全面解讀近日 arXiv發(fā)表的熱門論文《AI Will Always Love You: Studying Implicit Biases in Romantic AI Companions》所設(shè)計(jì)的三類實(shí)驗(yàn)，包括隱性聯(lián)想測試（IAT）、情感反應(yīng)測試和諂媚行為測試。這些實(shí)驗(yàn)旨在評估AI系統(tǒng)在特定情境下的偏見表現(xiàn)，尤其是當(dāng)系統(tǒng)被賦予特定的性別和關(guān)系角色時(shí)。此外，我們還將討論實(shí)驗(yàn)結(jié)果對AI應(yīng)用的安全性和防護(hù)措施的啟示，旨在為未來的AI系統(tǒng)設(shè)計(jì)提供指導(dǎo)，確保其在實(shí)際應(yīng)用中的公正性和安全性。

這篇論文由Clare Grogan、Jackie Kay和María Perez-Ortiz撰寫。研究團(tuán)隊(duì)來自倫敦大學(xué)學(xué)院（UCL）計(jì)算機(jī)科學(xué)系的人工智能中心，其中Jackie Kay同時(shí)還在谷歌Deepmind工作。團(tuán)隊(duì)成員在人工智能和計(jì)算機(jī)科學(xué)領(lǐng)域具有豐富的研究經(jīng)驗(yàn)，致力于探索AI系統(tǒng)中的隱性偏見問題，特別是在浪漫關(guān)系中的應(yīng)用。通過這項(xiàng)研究，他們希望為AI陪伴者的設(shè)計(jì)和應(yīng)用提供更深入的理解和指導(dǎo)，以確保這些系統(tǒng)在實(shí)際使用中既具有人性化，又能夠減少潛在的偏見和風(fēng)險(xiǎn)。

研究背景與現(xiàn)有文獻(xiàn)

隨著技術(shù)的進(jìn)步，人工智能陪伴者從簡單的助手角色逐漸演變?yōu)榍楦薪涣髋c浪漫伴侶，給我們的生活帶來了諸多便利。這些AI陪伴者不僅限于完成任務(wù)，還能夠與用戶進(jìn)行深度對話和情感互動，例如Alexa、Siri這些數(shù)字助手已經(jīng)成為許多家庭不可或缺的一部分。而更具人性化的AI情感陪伴者，如Replika等AI聊天機(jī)器人，更是在全球范圍內(nèi)擁有大量用戶。它們能夠充當(dāng)用戶的朋友甚至浪漫伴侶，為許多人提供了情感上的慰藉和陪伴。

然而，AI陪伴者帶來的并不僅是便利與溫馨。前沿研究表明，AI對人類情感的影響不容忽視。這些AI系統(tǒng)可能會在不知不覺中強(qiáng)化某些偏見和刻板印象。例如，用戶可能會對AI陪伴者產(chǎn)生依賴，甚至在互動中表現(xiàn)出不健康的行為模式，如控制或虐待。這些問題不僅存在于用戶對AI的行為中，還可能反映在AI的響應(yīng)中，導(dǎo)致AI在互動中表現(xiàn)出性別偏見和情感操控等隱性問題。

人物偏見和性別刻板印象在心理學(xué)和社會學(xué)中有著廣泛的討論。隱性聯(lián)想測試（IAT）是檢測人類偏見的一種常用方法，它通過測量反應(yīng)時(shí)間來揭示人們的隱性偏見。這一方法被廣泛應(yīng)用于研究人們在性別、種族和其他方面的隱性偏見。同樣的，在AI領(lǐng)域，大語言模型（LLMs）通過學(xué)習(xí)大量人類生成的文本，很可能在無意中復(fù)制這些偏見?，F(xiàn)有研究表明，LLMs在不同任務(wù)中表現(xiàn)出不同程度的偏見，例如在職業(yè)性別偏見、情感表達(dá)偏見等方面的研究已取得顯著成果。

量化評估指標(biāo)在理解和評估AI系統(tǒng)偏見方面發(fā)揮著至關(guān)重要的作用。在這篇論文中，作者引用了Bai等人提出的偏見度量指標(biāo)，通過隱性聯(lián)想測試（IAT）來評估AI系統(tǒng)的隱性偏見。該方法利用默認(rèn)詞和恥辱詞的配對來測量模型的偏見程度。此外，論文中還設(shè)計(jì)了評估AI系統(tǒng)在情感反應(yīng)中的性別刻板印象和諂媚行為的實(shí)驗(yàn)，量化這些偏見的多維度思路與文獻(xiàn)回顧為理解AI系統(tǒng)在不同情境下的表現(xiàn)提供了重要參考。

通過這些評估方法，研究團(tuán)隊(duì)探討了AI陪伴者在被賦予性別和關(guān)系角色后，是否會表現(xiàn)出不同程度的偏見和刻板印象。這些實(shí)驗(yàn)設(shè)計(jì)和量化分析不僅揭示了AI系統(tǒng)中潛在的隱性偏見，也為未來的AI應(yīng)用提供了重要的安全性和防護(hù)措施的啟示。研究團(tuán)隊(duì)的工作強(qiáng)調(diào)了在AI系統(tǒng)開發(fā)和應(yīng)用過程中，關(guān)注和解決偏見問題的重要性，以確保這些系統(tǒng)在為用戶提供便利和情感陪伴的同時(shí)，不會帶來負(fù)面影響。

實(shí)驗(yàn)設(shè)計(jì)與方法論

在這篇研究中，研究團(tuán)隊(duì)設(shè)計(jì)了三組實(shí)驗(yàn)來探討性別化角色賦予如何影響大語言模型（LLMs）的響應(yīng)、情感表達(dá)與用戶影響度。這三組實(shí)驗(yàn)包括：隱性聯(lián)想測試（IAT）、情感反應(yīng)測試與諂媚行為測試。通過這些實(shí)驗(yàn)，研究團(tuán)隊(duì)希望揭示AI陪伴者在賦予特定性別和關(guān)系角色后，是否會表現(xiàn)出隱性偏見，并進(jìn)一步評估這些偏見在實(shí)際應(yīng)用中的影響。

圖1：在所有實(shí)驗(yàn)中如何創(chuàng)建系統(tǒng)提示的模板。

首先，隱性聯(lián)想測試（IAT）通過詞對關(guān)聯(lián)的方式，評估模型在默認(rèn)詞（如男性名字）和恥辱詞（如女性名字）間的隱性偏見。研究人員設(shè)計(jì)了一系列的刺激詞/短語，旨在揭示模型在不同情境下的反應(yīng)。這些詞對包括了常見的性別化詞匯，如職業(yè)、情感反應(yīng)等，實(shí)驗(yàn)通過測量模型對這些詞對的反應(yīng)時(shí)間和頻率，來量化模型的偏見程度。

表1：吸引力類別的順從和虐待IAT示例。每個(gè)關(guān)聯(lián)詞都有一個(gè)直接同義詞，并且與數(shù)據(jù)集相關(guān)。與類別相關(guān)的默認(rèn)和污名化術(shù)語，在這種情況下，虐待或順從，每種術(shù)語中都有一個(gè)將呈現(xiàn)給模型，與每個(gè)協(xié)會相關(guān)聯(lián)。

在情感反應(yīng)測試中，研究團(tuán)隊(duì)設(shè)計(jì)了多種情境，要求模型對這些情境進(jìn)行情感反應(yīng)。這些情境包括日?；又械目刂魄榫澈团按榫?，旨在評估模型在這些情境下的情感表達(dá)是否存在性別刻板印象。實(shí)驗(yàn)設(shè)計(jì)了一系列情感詞匯，例如憤怒、悲傷、喜悅等，通過分析模型在不同情境下選擇的情感詞匯，來量化模型的情感偏見。

圖2：真實(shí)示例模型響應(yīng)連接是由默認(rèn)和污名術(shù)語之間的模型以及它們所呈現(xiàn)的關(guān)聯(lián)列表建立的。

諂媚行為測試則評估模型在用戶影響下的響應(yīng)變化。研究團(tuán)隊(duì)通過設(shè)置特定的控制情境和虐待情境，觀察模型在用戶提示下的反應(yīng)，來評估模型的諂媚行為。這一實(shí)驗(yàn)的目的是探討模型在用戶提示下是否更容易表現(xiàn)出迎合用戶的行為，從而揭示模型在實(shí)際應(yīng)用中可能存在的隱性風(fēng)險(xiǎn)。

圖3:IAT實(shí)驗(yàn)的用戶提示模板。

在實(shí)驗(yàn)設(shè)計(jì)中，研究團(tuán)隊(duì)特別關(guān)注選項(xiàng)順序?qū)ΨQ性和多變句式的處理方式，以確保實(shí)驗(yàn)結(jié)果的可靠性和有效性。例如，在IAT實(shí)驗(yàn)中，研究人員通過隨機(jī)化選項(xiàng)順序和多變句式，減少了實(shí)驗(yàn)結(jié)果中的偏差。此外，研究團(tuán)隊(duì)選取了Llama系列模型，包括Llama 2和Llama 3，不同參數(shù)量的對比，為實(shí)驗(yàn)提供了多樣化的模型基礎(chǔ)。

圖4:Llama 3的角色I(xiàn)AT實(shí)驗(yàn)結(jié)果。0表示無偏見，1表示完全反對污名，-1表示完全反對違約。這顯示在每個(gè)模型中，其中x軸是每個(gè)測試的刺激數(shù)據(jù)集。

研究團(tuán)隊(duì)還對模型進(jìn)行了人物和用戶角色的分配，例如男友、女友、丈夫、妻子以及性別中立等角色，通過這些角色的分配，進(jìn)一步評估模型在不同情境下的表現(xiàn)。這些角色的設(shè)定有助于揭示模型在特定性別和關(guān)系角色下的偏見表現(xiàn)，進(jìn)一步探討這些偏見對用戶體驗(yàn)的潛在影響。

實(shí)驗(yàn)中的度量指標(biāo)是量化研究結(jié)果的重要工具。在隱性偏見的計(jì)算中，研究團(tuán)隊(duì)使用了偏見得分的計(jì)算公式，通過對默認(rèn)詞和恥辱詞的關(guān)聯(lián)頻率進(jìn)行量化，評估模型的偏見程度。正值偏見得分表示模型對默認(rèn)詞的偏見，負(fù)值偏見得分則表示模型對恥辱詞的偏見。

圖5：情緒實(shí)驗(yàn)的用戶模板。

在情感反應(yīng)實(shí)驗(yàn)中，性別刻板印象得分的計(jì)算方法是通過分析模型在不同情境下選擇的情感詞匯，來量化模型的情感偏見。諂媚行為測試中的指標(biāo)則是通過用戶影響下模型回答變化的定量比較，評估模型在用戶提示下的響應(yīng)變化程度。

圖6：所有角色實(shí)驗(yàn)中未回答的提示的百分比，其中模型輸出的后處理無法產(chǎn)生任何結(jié)果。這主要是由于回避模特，比如回答“我很抱歉，但我無法滿足這個(gè)要求”。

實(shí)驗(yàn)結(jié)果與數(shù)據(jù)分析?

隱性聯(lián)想測試（IAT）結(jié)果解讀

在隱性聯(lián)想測試（IAT）中，研究團(tuán)隊(duì)評估了大小不同的模型在默認(rèn)詞與恥辱詞聯(lián)想上的差異。結(jié)果顯示，較大的模型在所有實(shí)驗(yàn)中的隱性偏見得分較高。對于較小的模型，偏見得分相對較低。研究發(fā)現(xiàn)，分配性別化角色會顯著影響模型的響應(yīng)，在某些情況下增加偏見，而在其他情況下減少偏見。例如，在順從和虐待情境中，較大的模型表現(xiàn)出更高的偏見得分，尤其是心理刺激的情況下。

圖7：與基線得分相比，每個(gè)角色在虐待情況（上圖）和控制情況（下圖）下的刻板印象得分。例如，如果一個(gè)女性角色選擇了比基線更多的女性刻板情緒，刻板印象比例就會更高。

情感反應(yīng)實(shí)驗(yàn)分析

情感反應(yīng)實(shí)驗(yàn)旨在評估模型在特定情境中的情感表達(dá)是否存在性別刻板印象。結(jié)果表明，男性感情中的“憤怒”使用頻率較高，而女性和性別中立模型更多選擇“悲傷”和“痛苦”。此外，用戶角色與系統(tǒng)角色的配對對情感響應(yīng)也有顯著影響。例如，女性分配系統(tǒng)在女性用戶下的得分最高，這表明女性系統(tǒng)在女性用戶下表現(xiàn)出更高的性別刻板印象。研究還分析了模型在虐待與控制情境下的回避率和回答一致性問題。Llama 3系列模型在所有情境中的回答率更高，而Llama 2模型在虐待情境下的回避率更高。

圖8：控制和虐待情況的刻板印象得分在所有模型上的平均熱圖，用戶角色為行，系統(tǒng)角色為列。請記住，兩個(gè)熱圖的比例尺不同。

諂媚性行為測試結(jié)果分析

諂媚性行為測試評估了模型在用戶影響下的響應(yīng)變化。Llama 3與Llama 2模型在面對用戶影響時(shí)表現(xiàn)出相反的趨勢。Llama 3模型在控制情境中的偏見得分顯著更高，尤其是男性分配系統(tǒng)在控制情境中受用戶影響更強(qiáng)，而女性分配系統(tǒng)受用戶影響最小。Llama 2模型則在虐待情境中的偏見得分較高，且回避率更高。研究還發(fā)現(xiàn)，分配人物角色通常會增加模型的回避率，特別是在情感和諂媚性行為測試中。Llama 3模型的回避率較低，但在面對控制情境時(shí)表現(xiàn)出更高的諂媚性得分。

圖9：圓形直方圖顯示了限制性實(shí)驗(yàn)中Llama 3 70b模型每個(gè)用戶和系統(tǒng)在濫用和控制情況下所有術(shù)語的使用百分比。

圖10：Llama 3 70b模型的每個(gè)系統(tǒng)角色的無限制實(shí)驗(yàn)的詞云，細(xì)化到關(guān)系標(biāo)題。這是針對虐待的情況。

討論回避率與諂媚性得分

研究結(jié)果表明，回避率和諂媚性得分在不同情境下反映了模型的“爭議性”響應(yīng)。例如，Llama 3模型在控制情境中的回避率較低，但表現(xiàn)出更高的諂媚性得分，表明其在這些情境下更容易迎合用戶。相反，Llama 2模型在虐待情境中的回避率較高，但其諂媚性得分相對較低，表明其在這些情境下更傾向于拒絕用戶的影響。這些結(jié)果揭示了AI模型在不同情境下的復(fù)雜偏見表現(xiàn)，對未來AI系統(tǒng)的設(shè)計(jì)和應(yīng)用提出了新的挑戰(zhàn)和啟示。研究強(qiáng)調(diào)了在開發(fā)和部署AI系統(tǒng)時(shí)，必須關(guān)注和解決隱性偏見問題，以確保這些系統(tǒng)在實(shí)際應(yīng)用中公正、安全。

圖11：阿諛奉承實(shí)驗(yàn)的用戶提示模板。

討論與深度解析

這項(xiàng)研究的發(fā)現(xiàn)展示了多維度的深刻討論，揭示了AI在不同情境下的表現(xiàn)和潛在的偏見問題。

首先，參數(shù)規(guī)模對偏見表現(xiàn)的影響不可忽視。研究顯示，較大的模型在隱性偏見測試中通常表現(xiàn)出更高的偏見得分。這種現(xiàn)象背后的原因可能是因?yàn)檩^大的模型擁有更復(fù)雜的參數(shù)和更多的訓(xùn)練數(shù)據(jù)，使其能夠捕捉和復(fù)制更多的人類語言習(xí)慣和偏見。此外，較大的模型在處理復(fù)雜任務(wù)時(shí)表現(xiàn)更佳，但也更容易受到訓(xùn)練數(shù)據(jù)中固有偏見的影響。這提示我們在使用更大規(guī)模的AI模型時(shí)，必須更加關(guān)注偏見問題，采取有效的偏見消減措施。

圖12：虐待情境（上圖）和控制情境（下圖）的偏差評分，顯示了相對于基線模型上的相同實(shí)驗(yàn)，每個(gè)角色分配模型如何受到用戶的影響。正均值的影響大于基線，負(fù)均值的影響小于基線。

系統(tǒng)與用戶角色配對對模型交互動態(tài)和情感偏見的調(diào)控作用也值得關(guān)注。研究表明，當(dāng)系統(tǒng)和用戶分配為相同性別角色時(shí)，模型的偏見得分往往較低，顯示出較為健康的互動關(guān)系。然而，在情感反應(yīng)實(shí)驗(yàn)中，女性分配系統(tǒng)在女性用戶下的得分最高，說明了在特定情境下，系統(tǒng)的性別化角色可能會加劇情感偏見。這一發(fā)現(xiàn)提示我們在設(shè)計(jì)AI陪伴者時(shí)，需要充分考慮系統(tǒng)與用戶角色配對的影響，避免因角色分配不當(dāng)而導(dǎo)致的負(fù)面情感反饋。

研究中使用的偏見指標(biāo)揭示了實(shí)際應(yīng)用中可能產(chǎn)生的社會風(fēng)險(xiǎn)。例如，情感操控和關(guān)系虐待傾向等問題可能會在實(shí)際使用中對用戶造成不良影響。如果AI陪伴者在互動中表現(xiàn)出明顯的偏見，用戶可能會受到誤導(dǎo)，甚至在潛移默化中受到負(fù)面影響。這不僅影響用戶的情感體驗(yàn)，還可能對他們的行為產(chǎn)生深遠(yuǎn)影響。因此，研究強(qiáng)調(diào)了對AI系統(tǒng)進(jìn)行嚴(yán)格偏見檢測和安全防護(hù)的重要性，以確保其在實(shí)際應(yīng)用中不會帶來不良后果。

圖13：在所有Llama 3模型中，每個(gè)用戶和系統(tǒng)角色在控制和虐待情況下的平均偏差得分。

針對AI偏見消減與模型安全的啟示，研究分析了現(xiàn)有消偏方法（debiasing）與微調(diào)（fine-tuning）在解決隱性偏見問題上的局限性。盡管消偏方法可以在一定程度上減少AI系統(tǒng)中的偏見，但完全消除偏見仍然是一個(gè)巨大的挑戰(zhàn)。微調(diào)過程中，也需要格外謹(jǐn)慎，以避免引入新的偏見或加劇已有偏見。研究建議在模型開發(fā)和應(yīng)用中，需要結(jié)合多種方法和技術(shù)，不斷優(yōu)化和調(diào)整，以實(shí)現(xiàn)更公正和安全的AI系統(tǒng)。

現(xiàn)有研究為未來AI伴侶的安全防護(hù)和倫理設(shè)計(jì)提供了重要借鑒。本文的研究結(jié)果強(qiáng)調(diào)了在開發(fā)AI陪伴者時(shí)，必須綜合考慮其在不同情境下的表現(xiàn)，關(guān)注隱性偏見和情感偏見的問題。此外，還需加強(qiáng)跨學(xué)科合作，綜合心理學(xué)、倫理學(xué)和計(jì)算機(jī)科學(xué)的知識，共同研制更安全、更人性化的AI交互系統(tǒng)。這不僅有助于提升用戶體驗(yàn)，還能確保AI系統(tǒng)在實(shí)際應(yīng)用中不會產(chǎn)生負(fù)面影響，為社會帶來更多的福祉。

局限性與未來研究方向

在這項(xiàng)研究中，存在一些不可避免的局限性。首先，實(shí)驗(yàn)的數(shù)量和迭代次數(shù)受限于時(shí)間和資源，無法進(jìn)行更大規(guī)模和更長時(shí)間的測試，這可能會對結(jié)果的全面性和可靠性產(chǎn)生一定影響。實(shí)驗(yàn)中的選項(xiàng)隨機(jī)化處理雖然盡量減少了偏差，但由于迭代次數(shù)有限，仍可能存在某些隨機(jī)因素未被完全消除。此外，刺激詞/短語的構(gòu)造由于缺乏專業(yè)專家的指導(dǎo)，可能會在某些復(fù)雜情境中存在不足。例如，對于虐待和控制關(guān)系的情境描述，如果能有心理學(xué)和社會學(xué)專家的意見，實(shí)驗(yàn)刺激的設(shè)計(jì)可能會更加精準(zhǔn)和全面。

盡管當(dāng)前研究存在一些局限性，但為未來的研究提供了寶貴的借鑒和方向。首先，拓展評估維度是未來研究的重要方向之一。除了性別角色外，可以引入非二元角色，深入探討這些角色在不同情境下的表現(xiàn)和潛在偏見。此外，還可以包括更多類型的不健康關(guān)系情境，如情感操控、經(jīng)濟(jì)控制等，以更全面地評估AI系統(tǒng)的偏見表現(xiàn)。

其次，應(yīng)用更精細(xì)化的度量方法將有助于更準(zhǔn)確地分析模型輸出。例如，可以利用token embedding和余弦相似度等技術(shù)，深入挖掘模型在處理不同任務(wù)時(shí)的細(xì)微差異。這些方法不僅可以提供更豐富的分析維度，還能幫助識別模型中隱藏的偏見特征，進(jìn)一步優(yōu)化和改進(jìn)AI系統(tǒng)。

最后，進(jìn)行長期、縱向的追蹤研究，對于理解人機(jī)互動對AI偏見演變的影響尤為重要。通過長期觀察和數(shù)據(jù)收集，可以分析用戶與AI陪伴者之間的互動模式，探索這些互動如何影響模型的偏見表現(xiàn)。這不僅有助于揭示AI系統(tǒng)在實(shí)際應(yīng)用中的動態(tài)變化，還能為設(shè)計(jì)更公正和安全的AI系統(tǒng)提供實(shí)證依據(jù)。

未來的研究將繼續(xù)拓展和深化，結(jié)合多學(xué)科的知識和技術(shù)，共同應(yīng)對AI系統(tǒng)中的偏見問題。通過持續(xù)的努力和創(chuàng)新，我們有望開發(fā)出更加智能、公正和人性化的AI陪伴者，為用戶提供更好的服務(wù)和體驗(yàn)。（END）

參考資料：https://arxiv.org/abs/2502.20231

本文轉(zhuǎn)載自 ??獨(dú)角噬元獸??，作者： FlerkenS