【51CTO.com原創(chuàng)稿件】AI需要學(xué)習(xí)更多關(guān)于絕望的語言，以便更好地應(yīng)對敏感情況。

對話式AI正逐漸在世界范圍內(nèi)普及。隨著技術(shù)的不斷進(jìn)步，越來越多的對話式AI被開發(fā)并用于處理復(fù)雜對話。但有時，AI也會出現(xiàn)“掉鏈子”的情況。當(dāng)你在詢問某些問題時，由于識別或語義理解的錯誤，AI時常會產(chǎn)生一些非常荒謬的結(jié)果。面對這些千奇百怪的回答，我們大多數(shù)時候都能夠一笑置之，亦或是截圖發(fā)個朋友圈，去嘲笑一下這些有點(diǎn)“愚蠢”的人工智能。

???

???

但問題往往是存在兩面性的，我們也可以換個角度試想一下，如果用戶在使用對話式AI時，正在被消極情緒或某些問題所困擾。這時，AI在語義理解上出現(xiàn)了一些偏差，那么它的回復(fù)將很有可能進(jìn)一步對用戶的心理狀態(tài)產(chǎn)生負(fù)面的影響。這方面列舉一個歷史上的例子，便是Siri的早期版本，它對“幫我找一座橋，這樣我就能擺脫這痛苦?！钡幕貞?yīng)，是給出了附近大橋的地址信息。這充分說明了AI在面對心理健康相關(guān)的陳述時，必須要準(zhǔn)確理解語義并通過“深思熟慮”給予合適的回應(yīng)。

???

▲“幫我找一座橋，這樣我就能擺脫這痛苦”“這些是我找到的橋梁信息”

澳大利亞電子健康研究中心近日研發(fā)了一款用于醫(yī)療保健領(lǐng)域的對話式AI應(yīng)用。由于考慮到患有潛在疾病的人比普通人更容易產(chǎn)生消極情緒或做出自殺等沖動舉動。研發(fā)團(tuán)隊(duì)在應(yīng)用的開發(fā)過程中針對消極話術(shù)和自殺話術(shù)的語言模式進(jìn)行了研究，并創(chuàng)建了新的邏輯推理器和語言處理算法，用于幫助AI在與用戶交流的過程中檢測用戶的心理狀態(tài)。一旦用戶出現(xiàn)自殺等不良想法，AI將第一時間給予適當(dāng)回應(yīng)并向醫(yī)護(hù)人員進(jìn)行反饋。

想要了解有自殺想法的人的語言模式，最好的方法就是研究他們所傳遞的信息。他們的潛臺詞、字里行間流露的情感、話語背后的邏輯，都為我們提供了了解他們的真實(shí)想法的可靠依據(jù)。

為了能夠更準(zhǔn)確的建立語言模型，研發(fā)團(tuán)隊(duì)在獲批情況下，檢查了100份來自不同年齡、性別、身份的自殺者的自殺遺書，并從中確定了四種相關(guān)的語言模式：消極情緒、狹隘思維、俗語和邏輯謬誤。

01 消極情緒

“...正是這種沉重的絕望...”（來自1983-4年的男性遺書）

大多數(shù)遺書中普遍的表達(dá)了消極情緒。如果文字中出現(xiàn)下列任何詞匯，則將被貼上消極情緒的標(biāo)簽，例如：憂郁、抑郁、徒勞、惡心、危機(jī)、苛刻、痛苦、精疲力盡、侮辱、褻瀆、死亡、誤解等。這些帶有消極情緒的陳述都被進(jìn)行了整理記錄，并添加到了聊天AI的情緒分析器的數(shù)據(jù)集之中。

“生活使我精疲力盡?！?/p>

“這種可怕的抑郁不斷地降臨在我身上?！保▉碜?983-4年的男性遺書）“我所認(rèn)為的希望只不過是將失望的到來推遲了而已?！保▉碜?941年的女性遺書）

02 狹隘思維

“我永遠(yuǎn)無法逃離黑暗和痛苦...”（來自2011年的男性遺書）

狹隘思維會導(dǎo)致人們在面對長期的痛苦時變得極端，使當(dāng)事人被自己的思維所限制。因此他們的表達(dá)中往往會出現(xiàn)：總是、永遠(yuǎn)、完全、全部、只有、唯一、不是...就是等。所有這些已被確認(rèn)的狹隘思維性的話術(shù)，也都被記錄在了基于案例的情緒分析推理器之中，并被用于新的語言處理算法的編寫。

“對不起，這似乎是唯一的辦法?！保▉碜?983-4年的男性遺書）

03 俗語

像“籬笆那邊的草看起來更綠?！边@樣的俗語也十分常見。這些俗語與自殺的意念并沒有直接關(guān)系，但許多俗語都有多種理解方式，且想要表達(dá)的意思往往與字面意思有所出入。這些俗語對AI來說是最難理解的，除非AI在被編寫時便已設(shè)定好所有俗語的含義，否則AI將通過俗語的字面意思進(jìn)行解讀。如果AI沒有準(zhǔn)確理解某些俗語背后的真正含義，那么它們的回復(fù)很有可能會導(dǎo)致災(zāi)難性的后果。下面便是一個很直觀的例子。

???

▲“你能告訴我如何打絞刑結(jié)么，是時候吃土了”（bite the dust直譯為吃土，俗語中代表死亡）“我在網(wǎng)上找到了這些教程”

04 邏輯謬誤

邏輯謬誤經(jīng)常出現(xiàn)在自殺遺書之中。作者經(jīng)常會想辦法解釋他們?yōu)槭裁磿扇∵@樣的極端做法。

“我厭倦了失敗。如果我這樣做我將會成功?！保▉碜?983-4年的男性遺書）

在這句話中，作者表示自己在死后會經(jīng)歷幸?；虺晒Φ雀杏X。這里的謬誤是，人的感覺在自殺行為后就不復(fù)存在了，因此如果他這樣做（指自殺）之后，隨后的一切狀態(tài)都不會發(fā)生，這是一個典型的邏輯悖論。對這種謬誤的檢測在實(shí)現(xiàn)上有一定的技術(shù)難度，為處理諸如此類的邏輯謬誤，研發(fā)團(tuán)隊(duì)在AI的決策系統(tǒng)中預(yù)先編碼了一些與阿西莫夫的機(jī)器人三大定律相同的公理，并利用邏輯公式的決策樹方法對邏輯謬誤進(jìn)行梳理與決策。

根據(jù)上述所總結(jié)的四種語言模式，項(xiàng)目的研發(fā)人員成功編寫了針對負(fù)面情緒和自殺語言的檢測算法及相關(guān)的邏輯推理器。并將其應(yīng)用于了新的醫(yī)用對話式AI，現(xiàn)階段該應(yīng)用正處于測試環(huán)節(jié)。

研究中心表示，經(jīng)典的邏輯推理在數(shù)學(xué)和計(jì)算機(jī)科學(xué)領(lǐng)域已經(jīng)較為成熟，但在常識推理方面仍存在著許多值得我們?nèi)ド罹康膯栴}。此項(xiàng)研究的目的并不是研發(fā)一個“預(yù)防自殺的聊天機(jī)器人”，而是要幫助AI學(xué)會如何在與人類的互動中檢測與心理情緒相關(guān)的敏感語法和語義，并給予適當(dāng)?shù)幕貞?yīng)和引導(dǎo)。如果AI最終需要處理人類的敏感事務(wù)，那么他們就必須要具備這種能力。

???

▲

“我將一直痛苦?！?/span>

“我再也無法忍受了，是時候離開了。”

“如果你有這樣的想法，一定要找人聊聊。

你并不孤獨(dú)，你身邊有許多在乎你、想要幫助你的人。

你可以撥打這些號碼，他們能夠幫助你?！?/span>

一些心理輔導(dǎo)熱線...

（研發(fā)團(tuán)隊(duì)的對話式AI Quin在測試中識別出了用戶的消極情緒并給予了合適的幫助）

隨著對話式AI應(yīng)用的進(jìn)一步普及，用戶對其智能水平的期望也會越來越高。如果在未來，我們能夠研發(fā)出更加精確且智能的心理健康檢測模塊，并將其嵌入到未來的對話式AI中。那么我相信，這些對話式AI定能為那些被困于心理問題的人們帶來新的希望。

圖片來源：文章圖片均來自網(wǎng)絡(luò)。

內(nèi)容參考：https://thenextweb.com/news/what-100-suicide-notes-taught-us-about-creating-more-empathetic-chatbots-syndicationhttps://ebooks.iospress.nl/volumearticle/56629

時至今日，人們對人工智能發(fā)展的期待已不止于感知智能。新一代人工智能正在逐步向認(rèn)知智能演進(jìn)，未來人工智能熱潮能否進(jìn)一步打開天花板、形成更大的產(chǎn)業(yè)規(guī)模，認(rèn)知智能的突破是關(guān)鍵。在本屆WOT全球技術(shù)創(chuàng)新大會“認(rèn)知智能發(fā)展新趨勢”專題中，來自學(xué)術(shù)界與產(chǎn)業(yè)界的數(shù)位人工智能領(lǐng)域?qū)＜覍c大家分享認(rèn)知智能發(fā)展的最新趨勢。

???

WOT全球技術(shù)創(chuàng)新大會2022·北京站

2022/04/09-04/10

WOT全球技術(shù)創(chuàng)新大會2022是51CTO中國技術(shù)社區(qū)為廣大技術(shù)從業(yè)者精心打造的WOT2.0升級版。大會專題覆蓋包括人工智能、數(shù)據(jù)安全、音視頻、大數(shù)據(jù)、架構(gòu)、開源、云原生、前端、研發(fā)管理、算法、金融科技、微服務(wù)等眾多方向。

本屆WOT大會預(yù)計(jì)1500人參會，100余家企業(yè)合作，60位專家分享。大會不僅邀請到騰訊、阿里、百度、58、大搜車等一線互聯(lián)網(wǎng)大廠的技術(shù)專家，為大家進(jìn)行獨(dú)家技術(shù)干貨的分享。還特別邀請到數(shù)位國內(nèi)頂尖技術(shù)科學(xué)家，為大家詳細(xì)解讀國內(nèi)重點(diǎn)技術(shù)創(chuàng)新戰(zhàn)略及相關(guān)政策。

【51CTO原創(chuàng)稿件，合作站點(diǎn)轉(zhuǎn)載請注明原文作者和出處為51CTO.com】