失誤集錦:2017人工智能領域的那些事兒
今年,人工智能項目AlphaGo和Libratus分別擊敗了人類玩家的最優(yōu)秀的圍棋選手和撲克玩家。雖然這些里程碑表明了近幾年人工智能的發(fā)展程度,但許多人對新興技術的整體成熟度持懷疑態(tài)度,尤其是在過去12個月中出現(xiàn)的一些有關人工智能的小失誤。
被面具破解的人臉識別
面部識別技術(Face ID)是解鎖新型iPhone X的面部識別技術,被譽為迄今為止最安全的人工智能激活方法,蘋果公司宣稱其被愚弄的幾率為百萬分之一。但隨后越南公司BKAV使用由3D打印的塑料、硅膠、化妝品和鏤空構成的150美元面膜實現(xiàn)了破解。 Bkav只是掃描一個測試對象的臉部,使用3D打印機生成一個臉部模型,并貼上剪紙眼睛和嘴巴和硅膠鼻子。這一破解給整個行業(yè)帶來了沖擊波,加大了消費者設備隱私的風險,更普遍的利用了人工智能的安全。
鄰居們由于Amazon Echo報警
流行的Amazon Echo被認為是強大的智能揚聲器之一。但沒有什么是完美的,一名德國男子的Echo在他不在家的時候被意外激活,并在午夜后開始響起,吵醒鄰居,導致他們打電話給警察,警察不得不破門而入,甚至在主人回來之前把門鎖換掉了。
Facebook chatbot關閉
今年七月,有大批量的報道稱有兩個Facebook聊天機器人以人類無法識別的語言相互溝通后被關閉。關于新的秘密超級智能語言的謠言淹沒了論壇等討論區(qū),直到Facebook解釋表示,這種神秘的交流只是語法編碼疏忽的結果。
拉斯維加斯自駕駛巴士在第一天上路就出車禍
一輛自駕巴士于今年十一月在拉斯維加斯首次亮相。然而,在短短的兩個小時內,巴士就被一輛貨車撞上了。盡管從技術上來說,它并沒有對這起事故負責,但是這輛智能巴士上的乘客抱怨道,當卡車慢慢靠近的時候,它不夠智能,無法自行擺脫危險。
Google Allo使用頭巾表情符號來回應槍支表情
美國有線電視新聞網的工作人員通過Google Allo收到了一個戴頭巾的人的文字表情建議。這是由于包含手槍的表情符號引發(fā)的。Google向公眾保證,它已經解決了這個問題,并發(fā)表道歉。
雙胞胎騙匯豐語音識別系統(tǒng)
匯豐銀行的語音識別ID是一個以人工智能為導向的安全系統(tǒng),允許用戶通過語音命令訪問他們的賬戶。雖然該公司聲稱它和指紋ID一樣安全,但是BBC的一名記者的雙胞胎兄弟能夠通過模仿他的聲音來訪問他的賬戶。實驗花了七次嘗試才成功,據此,匯豐即時的解決辦法是規(guī)定三次嘗試失敗就鎖定賬戶的門檻。
Google AI看著步槍,誤判為直升機
通過略微調整步槍照片,麻省理工學院的一個研究小組欺騙了Google Cloud Vision API,使其誤認為直升機。這個不良樣本,會導致計算機通過引入人眼無法察覺的修改來對圖像進行錯誤分類。在過去,只有黑客知道目標計算機系統(tǒng)的基本機制,敵對的例子才會起作用。麻省理工學院團隊在沒有獲得這些系統(tǒng)信息的情況下,通過觸發(fā)錯誤分類而向前邁進了一步。
“黑”掉自動駕駛汽車 只要給路標畫個大花臉
研究人員發(fā)現(xiàn),通過使用油漆或膠帶的謹慎應用來阻止信號,他們可以欺騙自動駕駛的汽車,把這些標志進行誤分類。用“愛”和“憎恨”這兩個詞修飾的停車標志,欺騙了一輛自駕車的機器學習系統(tǒng),大部分的時候都會被誤認為是限速45英里/小時。
用AI給油漆顏色取名
機器學習研究員Janelle Shan訓練了一個神經網絡,處理大約7700種油漆顏色,以及其對應的紅綠藍值。經過幾個小時的訓練,神經網絡成功地找到了“綠色”和“灰色”這兩個詞,但除此之外就沒別的了。訓練神經網絡需要時間。在多次迭代中,Shane訓練的神經網絡變得越來越好,它已經能夠找出像棕色和藍色這樣的真實顏色,以及這些顏色對應的紅綠藍值。接著她發(fā)現(xiàn)神經網絡是具有創(chuàng)造力的,它開始產生“草球棒”、“淺褐色”和“毒品”等顏色。