?一個(gè)95后女生自殺了，起因只是在網(wǎng)上發(fā)布了這么一篇博文。

這篇充滿溫情的博文發(fā)布后，主人公鄭靈華卻遭遇到了大量的造謠和謾罵。

有人質(zhì)疑她的身份，造謠說(shuō)她是“陪酒女”，只是因?yàn)樗念^發(fā)是粉色的；有人造謠她是“老少戀”、“恰流量”、“騙子精”，造謠她利用爺爺?shù)牟赍X。

如是總總，不堪入目。盡管很多媒體對(duì)謠言進(jìn)行了辟謠，但是鄭靈華沒有收到道歉，甚至鄭靈華在拿起法律武器維權(quán)的時(shí)候，依然受到騷擾。

最終，鄭靈華患上抑郁癥，不久前結(jié)束了自己的生命。

這樣的事情在互聯(lián)網(wǎng)上發(fā)生過(guò)很多次，這種彌漫在網(wǎng)絡(luò)世界的“人言可畏”不僅讓人觀感惡心，甚至能奪取人們的生命，這樣的行為也有個(gè)專門的名詞——網(wǎng)絡(luò)暴力，簡(jiǎn)稱“網(wǎng)暴”。

那么在AI已經(jīng)可以和人類對(duì)答如流的今天，AI是否可以在識(shí)別網(wǎng)暴行為中發(fā)揮作用呢？

突破兩大難點(diǎn)，識(shí)別網(wǎng)暴言論準(zhǔn)確率超90%

盡管大部分互聯(lián)網(wǎng)平臺(tái)都已經(jīng)上線了一些識(shí)別特別言論的系統(tǒng)，但是這些系統(tǒng)大多只是針對(duì)關(guān)鍵的詞進(jìn)行檢測(cè)和刪除，顯然是不夠智能的，稍加注意就能繞開這些限制。

事實(shí)上，準(zhǔn)確識(shí)別網(wǎng)暴言論，需要做到兩點(diǎn)：

• 如何聯(lián)系上下文準(zhǔn)確識(shí)別網(wǎng)暴言論？
• 如何高效識(shí)別網(wǎng)暴言論？

第一點(diǎn)關(guān)注的是網(wǎng)暴言論的內(nèi)容，因?yàn)榫W(wǎng)絡(luò)上大部分信件和留言都是分段的，往往是在對(duì)話中，網(wǎng)暴行為逐漸變得嚴(yán)重，最終釀成惡果。

第二點(diǎn)關(guān)注的是速度，畢竟互聯(lián)網(wǎng)環(huán)境下，要處理的數(shù)據(jù)太多了，如果檢測(cè)需要很久，那么這個(gè)系統(tǒng)將毫無(wú)實(shí)際價(jià)值，也不會(huì)得到采用。

英國(guó)的一組研究人員開發(fā)了一種新的人工智能模型，稱為 BiCapsHate，它克服了這兩個(gè)挑戰(zhàn)，研究結(jié)果1月19日發(fā)表在《IEEE Transactions on Computational Social Systems》上的一項(xiàng)論文中。

該模型由五層深層神經(jīng)網(wǎng)絡(luò)組成，它從一個(gè)輸入層開始，處理輸入文本，然后到一個(gè) embedding 層，將文本嵌入到一個(gè)數(shù)字表示中，然后是 BiCaps 層學(xué)習(xí)順序和語(yǔ)言上下文表示，dense層為最終分類準(zhǔn)備模型，最后輸出層輸出結(jié)果。

BiCaps 層是最重要的組成部分，它通過(guò)膠囊網(wǎng)絡(luò)（capsule networks）有效地獲取輸入文本前后方向不同方向的上下文信息。得益于豐富的手工調(diào)試的淺層和深層輔助功能(包括Hatebase詞典)，使模型信息更加豐富。研究人員在五個(gè)基準(zhǔn)數(shù)據(jù)集上進(jìn)行了廣泛的實(shí)驗(yàn)，以證明所提出的BiCapsHate模型的有效性。總體結(jié)果顯示，BiCapsHate優(yōu)于現(xiàn)有的最先進(jìn)的方法，包括fBERT, HateBERT和ToxicBERT。

在平衡和非平衡數(shù)據(jù)集上，BiCapsHate分別達(dá)到94%和92% f-score的準(zhǔn)確率。

速度快，可以在GPU運(yùn)行

塔里克 · 安瓦爾（Tarique Anwar）是約克大學(xué)計(jì)算機(jī)科學(xué)系的講師，他參與了這項(xiàng)研究。他指出，網(wǎng)上的爭(zhēng)論往往會(huì)導(dǎo)致負(fù)面的、可恨的和辱罵性的“網(wǎng)暴”評(píng)論，而現(xiàn)有的社交媒體平臺(tái)的內(nèi)容審查做法無(wú)法控制這種情況。

他說(shuō)：“此外，網(wǎng)上仇恨言論有時(shí)會(huì)映射現(xiàn)實(shí)環(huán)境，導(dǎo)致犯罪和暴力行為?！保锟?· 安瓦爾也表示，網(wǎng)上仇恨言論導(dǎo)致身體暴力和暴亂的例子有好幾次。

為了幫助解決這個(gè)問題，塔里克 · 安瓦爾的團(tuán)隊(duì)決定開發(fā) BiCapsHate，并且取得了非常好的效果。

正如安瓦爾指出的那樣，語(yǔ)言在某些情況下可能是模棱兩可的，即一個(gè)詞在一種語(yǔ)境中可能是正面的，而在另一種語(yǔ)境中可能是就是負(fù)面的。此前的模型在這方面都不夠優(yōu)秀，如 HateBERT、 toxicBERT 和 fBERT，這些人工智能能夠在一定程度上捕捉上下文，但是塔里克 · 安瓦爾認(rèn)為“這些仍然不夠好”。

BiCapsHate 的另一個(gè)優(yōu)點(diǎn)是該模型能夠使用有限的硬件資源執(zhí)行計(jì)算?！埃ㄆ渌Ｐ停┬枰?GPU 這樣的高端硬件資源，以及用于計(jì)算的高端系統(tǒng),”塔里克 · 安瓦爾解釋說(shuō)?！跋喾矗珺iCapsHate……可以在 CPU 機(jī)器上執(zhí)行，即使你只有8GB的內(nèi)存?！?/p>

值得注意的是，到目前為止，該人工智能已經(jīng)被開發(fā)和測(cè)試，僅用于分析英語(yǔ)言論，因此它將需要被改編為其他語(yǔ)言。與更激烈的仇恨言論相比，它也不太善于發(fā)現(xiàn)帶有溫和或微妙的仇恨語(yǔ)氣的攻擊性詞語(yǔ)。

研究人員希望下一步能夠探索評(píng)估在線表達(dá)仇恨的用戶的心理健康狀況的方法。如果有人擔(dān)心這個(gè)人精神不穩(wěn)定，并且可能對(duì)現(xiàn)實(shí)世界中的人施加身體暴力，可以考慮早期干預(yù)來(lái)降低發(fā)生這種情況的可能性。?