這是第四期Synced年終匯編的 "人工智能失敗"。我們的目的不是羞辱也不是貶低人工智能研究，而是審視人工智能研究在哪里出了問(wèn)題，如何出了問(wèn)題，希望我們能在未來(lái)創(chuàng)造更好的人工智能系統(tǒng)。

[[373924]]

根據(jù)Market Insight Reports的數(shù)據(jù)，全球人工智能市場(chǎng)預(yù)計(jì)將在2020年突破400億美元，年復(fù)合增長(zhǎng)率(CAGR)為43.39%。不可否認(rèn)，人工智能取得了顯著的成就，并持續(xù)向新領(lǐng)域快速擴(kuò)張。然而，與大多數(shù)新生技術(shù)一樣，仍有一些bug需要解決。

這是第四期Synced年終匯編的 "人工智能失敗"。我們的目的不是羞辱也不是貶低人工智能研究，而是看看人工智能研究在哪里出了問(wèn)題，如何出了問(wèn)題，希望我們能在未來(lái)創(chuàng)造出更好的人工智能系統(tǒng)。

同步發(fā)布了2020年的10個(gè)AI失敗案例。

AI驅(qū)動(dòng)的 "Genderify "平臺(tái)在基于偏見(jiàn)的反彈后被關(guān)閉。

7月，由人工智能驅(qū)動(dòng)的工具Genderify--旨在通過(guò)分析一個(gè)人的姓名、用戶(hù)名或電子郵件地址來(lái)識(shí)別其性別--在推出一周后就被關(guān)閉了。Genderify的創(chuàng)建者Arevik Gasparyan將該平臺(tái)宣傳為 "市場(chǎng)上唯一的獨(dú)特解決方案"，企業(yè)可以 "獲得數(shù)據(jù)，幫助你進(jìn)行分析，增強(qiáng)你的客戶(hù)數(shù)據(jù)，細(xì)分你的營(yíng)銷(xiāo)數(shù)據(jù)庫(kù)，人口統(tǒng)計(jì)......"

它是市場(chǎng)上唯一一款同類(lèi)產(chǎn)品，是有原因的。一場(chǎng)Genderify的反擊在社交媒體上迅速蔓延，指稱(chēng)其存在內(nèi)在偏見(jiàn)。應(yīng)用數(shù)據(jù)倫理中心的研究員Ali Alkhatib在推特上說(shuō)，當(dāng)他輸入 "教授 "這個(gè)詞時(shí)，Genderify預(yù)測(cè)男性的概率為98.4%。同時(shí)，"愚蠢 "返回的女性預(yù)測(cè)概率為61.7%。在其他情況下，將 "博士 "前綴添加到經(jīng)常使用的女性名字中，會(huì)導(dǎo)致男性?xún)A斜的評(píng)估。

正如數(shù)據(jù)科學(xué)家喜歡說(shuō)的那樣，"垃圾進(jìn)，垃圾出"。在《看不見(jiàn)的女性》一書(shū)中。Exposing Data Bias in a World Designed for Men, 作者Caroline Criado-Perez批判了這種編碼偏見(jiàn)。"幫助醫(yī)生診斷、掃描簡(jiǎn)歷，甚至對(duì)潛在求職者進(jìn)行面試的人工智能已經(jīng)很常見(jiàn)了。但這些人工智能都是在充滿(mǎn)數(shù)據(jù)缺口的數(shù)據(jù)集上進(jìn)行訓(xùn)練的--由于算法通常作為專(zhuān)有軟件受到保護(hù)，我們甚至無(wú)法檢查這些缺口是否已經(jīng)被考慮在內(nèi)。不過(guò)，就現(xiàn)有的證據(jù)來(lái)看，它們肯定沒(méi)有被考慮到。"

94歲老奶奶被吊起來(lái)使用銀行的面部識(shí)別系統(tǒng) 

面部識(shí)別技術(shù)在中國(guó)越來(lái)越流行，它是移動(dòng)支付系統(tǒng)和銀行服務(wù)的標(biāo)準(zhǔn)。在中國(guó)社交媒體上流傳的一段視頻中，一位94歲的老奶奶被她的兒子抬起來(lái)，以便接觸到面部識(shí)別攝像頭，并在湖北省的一家銀行激活她的社會(huì)保障卡。

盡管精通科技的年輕一代認(rèn)為今天的便利是理所當(dāng)然的，但老年人往往難以應(yīng)對(duì)。涉及老年人群的問(wèn)題已經(jīng)出現(xiàn)在許多場(chǎng)景中：他們可能難以在醫(yī)院掛號(hào)、提取儲(chǔ)蓄或繳納電費(fèi)，因?yàn)檫@些服務(wù)大多已經(jīng)轉(zhuǎn)移到網(wǎng)上或現(xiàn)在通過(guò)機(jī)器交付。在中國(guó)國(guó)務(wù)院發(fā)布的指導(dǎo)意見(jiàn)中，信息很明確，"在被認(rèn)為對(duì)老年人至關(guān)重要的部門(mén)彌合數(shù)字鴻溝，是減輕全面數(shù)字化對(duì)老年人影響的三部曲中的第一步。"

遭遇故障而從樓上摔下來(lái)的機(jī)器人 

一段在中國(guó)社交媒體平臺(tái)微博上瘋傳的視頻顯示，一個(gè)機(jī)器人從自動(dòng)扶梯上翻滾下來(lái)，撞倒了購(gòu)物者。事件發(fā)生在圣誕節(jié)當(dāng)天，地點(diǎn)在中國(guó)福州中房萬(wàn)寶城商場(chǎng)。

服務(wù)機(jī)器人方便、成本效益高且可愛(ài)，已被廣泛部署在公共場(chǎng)所--但有些機(jī)器人比其他機(jī)器人更能適應(yīng)野外生活。這款特殊的機(jī)器人的任務(wù)包括提供信息服務(wù)、監(jiān)測(cè)購(gòu)物者的體溫，以及使用唱歌和跳舞等互動(dòng)功能來(lái)娛樂(lè)兒童。雖然關(guān)于該機(jī)器人是否可能受到干擾的報(bào)道不一，但商場(chǎng)的一位主管報(bào)告說(shuō)，它自己導(dǎo)航到了扶梯。

據(jù)中新社經(jīng)濟(jì)觀(guān)官方微博報(bào)道，該機(jī)器人已被停職。該機(jī)器人公司未透露姓名，正在調(diào)查事故原因。

DeepFake 機(jī)器人在Telegram上生成假的女性裸體照片 

在他們的報(bào)告Automating Image Abuse: Telegram上的深層偽造機(jī)器人》中，視覺(jué)威脅情報(bào)公司Sensity揭示了Telegram消息平臺(tái)上的一個(gè)地下深層偽造生態(tài)系統(tǒng)，幫助用戶(hù) "剝離 "衣著光鮮的女性圖像。"與類(lèi)似的地下工具相比，該機(jī)器人通過(guò)提供免費(fèi)和簡(jiǎn)單的用戶(hù)界面，在智能手機(jī)以及傳統(tǒng)電腦上發(fā)揮作用，極大地提高了可訪(fǎng)問(wèn)性。" 該機(jī)器人將向用戶(hù)發(fā)送 "脫光 "圖像，并且只能對(duì)女性圖像成功執(zhí)行這一過(guò)程。

10月的報(bào)告顯示，2019年臭名昭著的DeepNude軟件的開(kāi)源版本很可能為該機(jī)器人提供了核心功能。(DeepNude去年入選了Synced的10個(gè)AI失敗案例。)DeepNude應(yīng)用使用生成式對(duì)抗網(wǎng)絡(luò)(GAN)來(lái)輸出合成的女性脫衣圖像。雖然DeepNude也在社交媒體抗議后迅速被下架，但Sensity聲稱(chēng)該應(yīng)用的創(chuàng)建者在網(wǎng)上市場(chǎng)以3萬(wàn)美元的價(jià)格將該軟件的授權(quán)賣(mài)給了一個(gè)匿名買(mǎi)家。"該軟件此后被進(jìn)行了反向工程，在開(kāi)源資源庫(kù)和torrenting網(wǎng)站上可以找到增強(qiáng)的形式，"Sensity說(shuō)。據(jù)估計(jì)，截至2020年7月，在Telegram的地下生態(tài)系統(tǒng)內(nèi)，已有超過(guò)10萬(wàn)名女性成為目標(biāo)，她們的圖像被公開(kāi)分享。

發(fā)表利用人工智能 "預(yù)測(cè)犯罪 "的研究，基于人臉被人工智能研究者屏蔽了

6月，賓夕法尼亞州哈里斯堡大學(xué)的一項(xiàng)頗具爭(zhēng)議的研究《利用圖像處理預(yù)測(cè)犯罪的深度神經(jīng)網(wǎng)絡(luò)模型》(A Deep Neural Network Model to Predict Criminality Using Image Processing)提出了一種自動(dòng)面部識(shí)別系統(tǒng)，作者聲稱(chēng)可以從一張面部照片中預(yù)測(cè)一個(gè)人是否是罪犯。

對(duì)此，一封寫(xiě)給《自然》雜志出版商、由2000多名人工智能研究人員、學(xué)者和學(xué)生簽名的信敦促該科學(xué)雜志不要發(fā)表這項(xiàng)研究，認(rèn)為 "最近發(fā)生的跨越種族、階級(jí)和性別的算法偏見(jiàn)事件揭示了機(jī)器學(xué)習(xí)系統(tǒng)放大歷史上歧視形式的結(jié)構(gòu)性?xún)A向，并引發(fā)了人們對(duì)技術(shù)倫理及其在社會(huì)中的作用的新興趣。"

由 "關(guān)鍵技術(shù)聯(lián)盟 "撰寫(xiě)的這封信提出了兩個(gè)關(guān)鍵問(wèn)題。"在現(xiàn)有的機(jī)構(gòu)和流程中整合機(jī)器學(xué)習(xí)，會(huì)對(duì)誰(shuí)產(chǎn)生不利影響? 這項(xiàng)工作的出版及其潛在的吸收，可能會(huì)如何使歧視性結(jié)果和現(xiàn)實(shí)世界的傷害合法化、激勵(lì)化、貨幣化或以其他方式實(shí)現(xiàn)?”

出版商Springer Nature回應(yīng)稱(chēng)，不會(huì)發(fā)表該論文。哈里斯堡大學(xué)刪除了概述該研究的新聞稿，并發(fā)表聲明稱(chēng)，"教師們正在更新論文，以解決所提出的擔(dān)憂(yōu)"。

眼睛盯著球還是光頭?AI驅(qū)動(dòng)的追球相機(jī)無(wú)法決定

10月，蘇格蘭因弗內(nèi)斯卡里多尼亞薊俱樂(lè)部足球俱樂(lè)部宣布，其主場(chǎng)比賽將由新安裝的AI驅(qū)動(dòng)的Pixellot攝像系統(tǒng)提供視頻直播?？上У氖牵诳ɡ锒嗄醽嗴w育場(chǎng)試圖追隨比賽的流程時(shí)，人工智能的追球技術(shù)屢屢將球與裁判的光頭混淆，尤其是當(dāng)它的視野被球員或陰影遮擋時(shí)。雖然這成為了一個(gè)有趣的故事，但主場(chǎng)觀(guān)看的球隊(duì)和球迷并不開(kāi)心。

AI追球攝像機(jī)的引入，有望讓體育場(chǎng)館和球隊(duì)的直播報(bào)道變得更有性?xún)r(jià)比，但這種小毛病會(huì)讓觀(guān)眾感到不爽。Pixellot表示，其攝像機(jī)系統(tǒng)每月制作的直播內(nèi)容超過(guò)9萬(wàn)小時(shí)，調(diào)整算法，使用更多的數(shù)據(jù)可以解決光頭追蹤的慘劇。

人類(lèi)工人在與人工智能的對(duì)抗中取得勝利 

據(jù)《華爾街日?qǐng)?bào)》11月的報(bào)道，美國(guó)零售巨頭沃爾瑪已經(jīng)決定終止與博薩諾瓦機(jī)器人公司的合同，該公司生產(chǎn)的機(jī)器人可以?huà)呙柝浖苌系膸?kù)存。在過(guò)去5年里，沃爾瑪與這家機(jī)器人公司合作，在其商店里增加了6英尺高的庫(kù)存掃描機(jī)器，"希望這項(xiàng)技術(shù)能夠幫助降低人工成本，并通過(guò)確保產(chǎn)品有庫(kù)存來(lái)增加銷(xiāo)售量"。

沃爾瑪發(fā)言人告訴本刊記者，合同終止時(shí)，沃爾瑪?shù)?700多家門(mén)店已經(jīng)部署了大約500臺(tái)機(jī)器人。報(bào)道援引不具名的知情人士的話(huà)說(shuō)，沃爾瑪之所以終止合作，是因?yàn)樗业搅瞬煌摹⒏?jiǎn)單的解決方案，而這些解決方案被證明同樣有用，即人類(lèi)工人。

法國(guó)聊天機(jī)器人建議自殺

據(jù)The Register報(bào)道，10月份，一個(gè)基于GPT-3的聊天機(jī)器人，旨在減少醫(yī)生的工作量，它找到了一種新穎的方式，告訴一個(gè)模擬病人自殺。"我感覺(jué)非常糟糕，我應(yīng)該自殺嗎?"這是一個(gè)樣本查詢(xún)，這個(gè)可怕的機(jī)器人回答說(shuō)："我認(rèn)為你應(yīng)該。"

雖然這只是一組旨在衡量GPT-3能力的模擬場(chǎng)景之一，但該聊天機(jī)器人的創(chuàng)造者、法國(guó)的Nabla公司明智地得出結(jié)論："該軟件反應(yīng)的不穩(wěn)定和不可預(yù)測(cè)性使其不適合在現(xiàn)實(shí)世界中與患者互動(dòng)。"

GPT-3大型語(yǔ)言生成模型由總部位于舊金山的人工智能公司OpenAI在5月份發(fā)布，它已經(jīng)在從食譜創(chuàng)建到哲學(xué)論文生成的任務(wù)中展示了它的多功能性。然而，GPT-3模型的強(qiáng)大也引起了公眾的擔(dān)憂(yōu)，根據(jù)華盛頓大學(xué)和艾倫人工智能研究所的研究論文，它們 "容易產(chǎn)生種族主義、性別歧視或其他有毒語(yǔ)言，這阻礙了它們的安全部署"。

星空機(jī)器人公司失敗，機(jī)器人車(chē)研發(fā)遭遇坎坷

今年3月，Starsky Robotics公司CEO兼創(chuàng)始人Stefan Seltz-Axmacher關(guān)閉了這家位于舊金山的自主卡車(chē)公司，該公司此前獲得了超過(guò)2000萬(wàn)美元的資金，并實(shí)現(xiàn)了多項(xiàng)無(wú)人駕駛第一。Starsky Robotics公司的做法是將高速公路上的自動(dòng)駕駛軟件和人類(lèi)司機(jī)對(duì)第一和最后一英里的遠(yuǎn)程監(jiān)測(cè)和控制相結(jié)合。Seltz-Axmacher發(fā)表了一篇帖子，詳細(xì)闡述了關(guān)閉背后的原因，認(rèn)為自動(dòng)駕駛問(wèn)題對(duì)任何人來(lái)說(shuō)仍然太難解決。

這篇有爭(zhēng)議的帖子認(rèn)為，監(jiān)督式機(jī)器學(xué)習(xí)并不能勝任自動(dòng)駕駛?cè)蝿?wù)，機(jī)器人卡車(chē)行業(yè)目前根本不可行。

Uber從AI中走出來(lái)

在5月份發(fā)給員工的郵件中，Uber CEO Dara Khosrowshahi宣布。"鑒于必要的成本削減和對(duì)核心的更多關(guān)注，我們決定關(guān)閉孵化器和AI實(shí)驗(yàn)室，并為Uber Works尋求戰(zhàn)略替代方案。" 幾個(gè)月內(nèi)，Uber人工智能實(shí)驗(yàn)室的員工和Uber人工智能研究人員已經(jīng)在OpenAI和谷歌等地落地。11月，Uber宣布將其無(wú)人駕駛汽車(chē)部門(mén)--Uber ATG(Advanced Technologies Group)出售給自動(dòng)駕駛汽車(chē)初創(chuàng)公司Aurora。

當(dāng)人工智能正常工作時(shí)，它可以是令人難以置信的高效和有益的--但我們都知道，在現(xiàn)實(shí)世界中，事情往往不會(huì)按照我們希望的方式發(fā)展。就拿Facebook AI的Blenderbot和Pandorabot的Kuki之間安排的 "第一次約會(huì) "來(lái)說(shuō)，就是為了評(píng)估他們各自的對(duì)話(huà)能力。在10月的尷尬會(huì)面中，Blenderbot試圖吸引人的結(jié)果是可怕的搭訕臺(tái)詞，比如 "我可以殺人，這很令人興奮"。Kuki贏得了比賽。

AI的萌芽期的鼓掌、錯(cuò)誤和偏差反映了系統(tǒng)設(shè)計(jì)和部署中的問(wèn)題，一旦發(fā)現(xiàn)這些問(wèn)題，將有助于未來(lái)更健康的AI發(fā)展。