【深度】十分鐘讀完人工智能的三生三世
AI作為2016年以來最熱門的詞匯,人們對之也持有不同的看法:有人在懷疑泡沫即將破裂、有人堅信這場變革會帶來巨大的機(jī)會、有人拋出威脅論。
本系列試圖以通俗易懂的方式,讓不同知識水平的讀者都能從中獲益:讓外行人對人工智能有一個清晰客觀的理解,也幫助內(nèi)行人更好地參與到AI帶來這場產(chǎn)業(yè)變革中來。
本文將會從AI最基本的幾個模塊(計算機(jī)視覺、語音識別、自然語言處理、決策規(guī)劃系統(tǒng))著手,回顧其一路以來的發(fā)展脈絡(luò),以史為鏡、正視未來。
計算機(jī)視覺的發(fā)展歷史
“看”是人類與生俱來的能力。剛出生的嬰兒只需要幾天的時間就能學(xué)會模仿父母的表情,人們能從復(fù)雜結(jié)構(gòu)的圖片中找到關(guān)注重點(diǎn)、在昏暗的環(huán)境下認(rèn)出熟人。隨著人工智能的發(fā)展,機(jī)器也試圖在這項能力上匹敵甚至超越人類。
計算機(jī)視覺的歷史可以追溯到1966年,人工智能學(xué)家Minsky在給學(xué)生布置的作業(yè)中,要求學(xué)生通過編寫一個程序讓計算機(jī)告訴我們它通過攝像頭看到了什么,這也被認(rèn)為是計算機(jī)視覺最早的任務(wù)描述。
到了七八十年代,隨著現(xiàn)代電子計算機(jī)的出現(xiàn),計算機(jī)視覺技術(shù)也初步萌芽。人們開始嘗試讓計算機(jī)回答出它看到了什么東西,于是首先想到的是從人類看東西的方法中獲得借鑒。
借鑒之一是當(dāng)時人們普遍認(rèn)為,人類能看到并理解事物,是因?yàn)槿祟愅ㄟ^兩只眼睛可以立體地觀察事物。因此要想讓計算機(jī)理解它所看到的圖像,必須先將事物的三維結(jié)構(gòu)從二維的圖像中恢復(fù)出來,這就是所謂的“三維重構(gòu)”的方法。
借鑒之二是人們認(rèn)為人之所以能識別出一個蘋果,是因?yàn)槿藗円呀?jīng)知道了蘋果的先驗(yàn)知識,比如蘋果是紅色的、圓的、表面光滑的,如果給機(jī)器也建立一個這樣的知識庫,讓機(jī)器將看到的圖像與庫里的儲備知識進(jìn)行匹配,是否可以讓機(jī)器識別乃至理解它所看到的東西呢,這是所謂的“先驗(yàn)知識庫”的方法。
這一階段的應(yīng)用主要是一些光學(xué)字符識別、工件識別、顯微/航空圖片的識別等等。
到了九十年代,計算機(jī)視覺技術(shù)取得了更大的發(fā)展,也開始廣泛應(yīng)用于工業(yè)領(lǐng)域。一方面原因是CPU、DSP等圖像處理硬件技術(shù)有了飛速進(jìn)步;另一方面是人們也開始嘗試不同的算法,包括統(tǒng)計方法和局部特征描述符的引入。
在“先驗(yàn)知識庫”的方法中,事物的形狀、顏色、表面紋理等特征是受到視角和觀察環(huán)境所影響的,在不同角度、不同光線、不同遮擋的情況下會產(chǎn)生變化。
因此,人們找到了一種方法,通過局部特征的識別來判斷事物,通過對事物建立一個局部特征索引,即使視角或觀察環(huán)境發(fā)生變化,也能比較準(zhǔn)確地匹配上。
進(jìn)入21世紀(jì),得益于互聯(lián)網(wǎng)興起和數(shù)碼相機(jī)出現(xiàn)帶來的海量數(shù)據(jù),加之機(jī)器學(xué)習(xí)方法的廣泛應(yīng)用,計算機(jī)視覺發(fā)展迅速。以往許多基于規(guī)則的處理方式,都被機(jī)器學(xué)習(xí)所替代,自動從海量數(shù)據(jù)中總結(jié)歸納物體的特征,然后進(jìn)行識別和判斷。
這一階段涌現(xiàn)出了非常多的應(yīng)用,包括典型的相機(jī)人臉檢測、安防人臉識別、車牌識別等等。
數(shù)據(jù)的積累還誕生了許多評測數(shù)據(jù)集,比如權(quán)威的人臉識別和人臉比對識別的平臺——FDDB和LFW等,其中最有影響力的是ImageNet,包含1400萬張已標(biāo)注的圖片,劃分在上萬個類別里。
到了2010年以后,借助于深度學(xué)習(xí)的力量,計算機(jī)視覺技術(shù)得到了爆發(fā)增長和產(chǎn)業(yè)化。通過深度神經(jīng)網(wǎng)絡(luò),各類視覺相關(guān)任務(wù)的識別精度都得到了大幅提升。
在全球最權(quán)威的計算機(jī)視覺競賽ILSVR(ImageNet Large Scale VisualRecognition Competition)上,千類物體識別Top-5錯誤率在2010年和2011年時分別為28.2%和25.8%,從2012年引入深度學(xué)習(xí)之后,后續(xù)4年分別為16.4%、11.7%、6.7%、3.7%,出現(xiàn)了顯著突破。
由于效果的提升,計算機(jī)視覺技術(shù)的應(yīng)用場景也快速擴(kuò)展,除了在比較成熟的安防領(lǐng)域應(yīng)用外,也有應(yīng)用在金融領(lǐng)域的人臉識別身份驗(yàn)證、電商領(lǐng)域的商品拍照搜索、醫(yī)療領(lǐng)域的智能影像診斷、機(jī)器人/無人車上作為視覺輸入系統(tǒng)等,包括許多有意思的場景:照片自動分類(圖像識別+分類)、圖像描述生成(圖像識別+理解)等等。
語音技術(shù)的發(fā)展歷史
語言交流是人類最直接最簡潔的交流方式。長久以來,讓機(jī)器學(xué)會“聽”和“說”,實(shí)現(xiàn)與人類間的無障礙交流一直是人工智能、人機(jī)交互領(lǐng)域的一大夢想。
早在電子計算機(jī)出現(xiàn)之前,人們就有了讓機(jī)器識別語音的夢想。1920年生產(chǎn)的“Radio Rex”玩具狗可能是世界上最早的語音識別器,當(dāng)有人喊“Rex”的時候,這只狗能夠從底座上彈出來。
但實(shí)際上它所用到的技術(shù)并不是真正的語音識別,而是通過一個彈簧,這個彈簧在接收到500赫茲的聲音時會自動釋放,而500赫茲恰好是人們喊出“Rex”中元音的第一個共振峰。
第一個真正基于電子計算機(jī)的語音識別系統(tǒng)出現(xiàn)在1952年,AT&T貝爾實(shí)驗(yàn)室開發(fā)了一款名為Audrey的語音識別系統(tǒng),能夠識別10個英文數(shù)字,正確率高達(dá)98%。
70年代開始出現(xiàn)了大規(guī)模的語音識別研究,但當(dāng)時的技術(shù)還處于萌芽階段,停留在對孤立詞、小詞匯量句子的識別上。
上世紀(jì)80年代是技術(shù)取得突破的時代,一個重要原因是全球性的電傳業(yè)務(wù)積累了大量文本,這些文本可作為機(jī)讀語料用于模型的訓(xùn)練和統(tǒng)計。研究的重點(diǎn)也逐漸轉(zhuǎn)向大詞匯量、非特定人的連續(xù)語音識別。
那時最主要的變化來自用基于統(tǒng)計的思路替代傳統(tǒng)基于匹配的思路,其中的一個關(guān)鍵進(jìn)展是隱馬爾科夫模型(HMM)的理論和應(yīng)用都趨于完善。
工業(yè)界也出現(xiàn)了廣泛的應(yīng)用,德州儀器研發(fā)了名為Speak& Spell語音學(xué)習(xí)機(jī),語音識別服務(wù)商Speech Works成立,美國國防部高級研究計劃局(DARPA)也贊助支持了一系列語音相關(guān)的項目。
90年代是語音識別基本成熟的時期,主流的高斯混合模型GMM-HMM框架逐漸趨于穩(wěn)定,但識別效果與真正實(shí)用還有一定距離,語音識別研究的進(jìn)展也逐漸趨緩。
由于80年代末、90年代初神經(jīng)網(wǎng)絡(luò)技術(shù)的熱潮,神經(jīng)網(wǎng)絡(luò)技術(shù)也被用于語音識別,提出了多層感知器-隱馬爾科夫模型(MLP-HMM)混合模型。但是性能上無法超越GMM-HMM框架。
突破的產(chǎn)生始于深度學(xué)習(xí)的出現(xiàn)。隨著深度神經(jīng)網(wǎng)絡(luò)(DNN)被應(yīng)用到語音的聲學(xué)建模中,人們陸續(xù)在音素識別任務(wù)和大詞匯量連續(xù)語音識別任務(wù)上取得突破。
基于GMM-HMM的語音識別框架被基于DNN-HMM的語音識別系統(tǒng)所替代,而隨著系統(tǒng)的持續(xù)改進(jìn),又出現(xiàn)了深層卷積神經(jīng)網(wǎng)絡(luò)和引入長短時記憶模塊(LSTM)的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),識別效果得到了進(jìn)一步提升,在許多(尤其是近場)語音識別任務(wù)上達(dá)到了可以進(jìn)入人們?nèi)粘I畹臉?biāo)準(zhǔn)。
于是我們看到以Apple Siri為首的智能語音助手、以Echo為首的智能硬件入口等等。
而這些應(yīng)用的普及,又進(jìn)一步擴(kuò)充了語料資源的收集渠道,為語言和聲學(xué)模型的訓(xùn)練儲備了豐富的燃料,使得構(gòu)建大規(guī)模通用語言模型和聲學(xué)模型成為可能。
自然語言處理的發(fā)展歷史
人類的日常社會活動中,語言交流是不同個體間信息交換和溝通的重要途徑。因此,對機(jī)器而言,能否自然地與人類進(jìn)行交流、理解人們表達(dá)的意思并作出合適的回應(yīng),被認(rèn)為是衡量其智能程度的一個重要參照,自然語言處理也因此成為了繞不開的議題。
早在上世紀(jì)50年代,隨著電子計算機(jī)的出現(xiàn),出現(xiàn)了許多自然語言處理的任務(wù)需求,其中最典型的就是機(jī)器翻譯。
當(dāng)時存在兩派不同的自然語言處理方法:基于規(guī)則方法的符號派和基于概率方法的隨機(jī)派。受限于當(dāng)時的數(shù)據(jù)和算力,隨機(jī)派無法發(fā)揮出全部的功力,使得規(guī)則派的研究略占上風(fēng)。
體現(xiàn)到翻譯上,人們認(rèn)為機(jī)器翻譯的過程是在解讀密碼,試圖通過查詢詞典來實(shí)現(xiàn)逐詞翻譯,這種方式產(chǎn)出的翻譯效果不佳、難以實(shí)用。
當(dāng)時的一些成果包括1959年賓夕法尼亞大學(xué)研制成功的TDAP系統(tǒng)(Transformation and Discourse Analysis Project,最早的、完整的英語自動剖析系統(tǒng))、布朗美國英語語料庫的建立等。
IBM-701計算機(jī)進(jìn)行了世界上第一次機(jī)器翻譯試驗(yàn),將幾個簡單的俄語句子翻譯成了英文。這之后蘇聯(lián)、英國、日本等國家也陸續(xù)進(jìn)行了機(jī)器翻譯試驗(yàn)。
1966年,美國科學(xué)院的語言自動處理咨詢委員會(ALPAC),發(fā)布了一篇題為《語言與機(jī)器》的研究報告,報告全面否定了機(jī)器翻譯的可行性,認(rèn)為機(jī)器翻譯不足以克服現(xiàn)有困難、投入實(shí)用。
這篇報告澆滅了之前的機(jī)器翻譯熱潮,許多國家開始消減在這方面的經(jīng)費(fèi)投入,許多相關(guān)研究被迫暫停,自然語言研究陷入低谷。
許多研究者痛定思痛,意識到兩種語言間的差異不僅體現(xiàn)在詞匯上,還體現(xiàn)在句法結(jié)構(gòu)的差異上,為了提升譯文的可讀性,應(yīng)該加強(qiáng)語言模型和語義分析的研究。
里程碑事件出現(xiàn)在1976 年,加拿大蒙特利爾大學(xué)與加拿大聯(lián)邦政府翻譯局聯(lián)合開發(fā)了名為TAUM-METEO的機(jī)器翻譯系統(tǒng),提供天氣預(yù)報服務(wù)。這個系統(tǒng)每小時可以翻譯6-30萬個詞,每天可翻譯1-2千篇?dú)庀筚Y料,并能夠通過電視、報紙立即公布。
在這之后,歐盟、日本也紛紛開始研究多語言機(jī)器翻譯系統(tǒng),但并未取得預(yù)期的成效。
到了90年代時,自然語言處理進(jìn)入了發(fā)展繁榮期。隨著計算機(jī)的計算速度和存儲量大幅增加、大規(guī)模真實(shí)文本的積累產(chǎn)生,以及被互聯(lián)網(wǎng)發(fā)展激發(fā)出的、以網(wǎng)頁搜索為代表的基于自然語言的信息檢索和抽取需求出現(xiàn),人們對自然語言處理的熱情空前高漲。
在傳統(tǒng)基于規(guī)則的處理技術(shù)中,人們引入了更多數(shù)據(jù)驅(qū)動的統(tǒng)計方法,將自然語言處理的研究推向了一個新高度。除了機(jī)器翻譯之外,網(wǎng)頁搜索、語音交互、對話機(jī)器人等領(lǐng)域都有自然語言處理的功勞。
進(jìn)入2010年以后,基于大數(shù)據(jù)和淺層、深層學(xué)習(xí)技術(shù),自然語言處理的效果得到了進(jìn)一步優(yōu)化。機(jī)器翻譯的效果進(jìn)一步提升,出現(xiàn)了專門的智能翻譯產(chǎn)品。對話交互能力被應(yīng)用在客服機(jī)器人、智能助手等產(chǎn)品中。
這一時期的一個重要里程碑事件是IBM研發(fā)的Watson系統(tǒng)參加綜藝問答節(jié)目Jeopardy。比賽中Watson沒有聯(lián)網(wǎng),但依靠4TB磁盤內(nèi)200萬頁結(jié)構(gòu)化和非結(jié)構(gòu)化的信息,Watson成功戰(zhàn)勝人類選手取得冠軍,向世界展現(xiàn)了自然語言處理技術(shù)所能達(dá)到的實(shí)力。
機(jī)器翻譯方面,谷歌推出的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯(GNMT)相比傳統(tǒng)的基于詞組的機(jī)器翻譯(PBMT),英語到西班牙語的錯誤率下降了87%,英文到中文的錯誤率下降了58%,取得了非常強(qiáng)勁的提升。
規(guī)劃決策系統(tǒng)的發(fā)展歷史
人工智能規(guī)劃決策系統(tǒng)的發(fā)展,一度是以棋類游戲?yàn)檩d體的。最早在18世紀(jì)的時候,就出現(xiàn)過一臺可以下棋的機(jī)器,擊敗了當(dāng)時幾乎所有的人類棋手,包括拿破侖和富蘭克林等。不過最終被發(fā)現(xiàn)機(jī)器里藏著一個人類高手,通過復(fù)雜的機(jī)器結(jié)構(gòu)以混淆觀眾的視線,只是一場騙局而已。
真正基于人工智能的規(guī)劃決策系統(tǒng)出現(xiàn)在電子計算機(jī)誕生之后,1962年時,Arthur Samuel制作的西洋跳棋程序Checkers經(jīng)過屢次改進(jìn)后,終于戰(zhàn)勝了州冠軍。
當(dāng)時的程序雖然還算不上智能,但也已經(jīng)具備了初步的自我學(xué)習(xí)能力,這場勝利在當(dāng)時還是引起了巨大的轟動,畢竟是機(jī)器首次在智力的角逐中戰(zhàn)勝人類。這也讓人們發(fā)出了樂觀的預(yù)言:“機(jī)器將在十年內(nèi)戰(zhàn)勝人類象棋冠軍”。
但人工智能所面臨的困難比人們想象得要大很多,跳棋程序在此之后也敗給了國家冠軍,未能更上一層樓。而國際象棋相比跳棋要復(fù)雜得多,在當(dāng)時的計算能力下,機(jī)器若想通過暴力計算戰(zhàn)勝人類象棋棋手,每步棋的平均計算時長是以年為單位的。人們也意識到,只有盡可能減少計算復(fù)雜度,才可能與人類一決高下。
于是,“剪枝法”被應(yīng)用到了估值函數(shù)中,通過剔除掉低可能性的走法,優(yōu)化最終的估值函數(shù)計算。在“剪枝法”的作用下,西北大學(xué)開發(fā)的象棋程序Chess 4.5在1976年首次擊敗了頂尖人類棋手。
進(jìn)入80年代,隨著算法上的不斷優(yōu)化,機(jī)器象棋程序在關(guān)鍵勝負(fù)手上的判斷能力和計算速度大幅提升,已經(jīng)能夠擊敗幾乎所有的頂尖人類棋手。
到了90年代,硬件性能、算法能力等都得到了大幅提升,在1997年那場著名的人機(jī)大戰(zhàn)中,IBM研發(fā)的深藍(lán)(Deep Blue)戰(zhàn)勝國際象棋大師卡斯帕羅夫,人類意識到在象棋游戲中已經(jīng)很難戰(zhàn)勝機(jī)器了。
到了2016年,硬件層面出現(xiàn)了基于GPU、TPU的并行計算,算法層面出現(xiàn)了蒙特卡洛決策樹與深度神經(jīng)網(wǎng)絡(luò)的結(jié)合。
4:1戰(zhàn)勝李世石、在野狐圍棋對戰(zhàn)頂尖棋手60連勝、3:0戰(zhàn)勝世界排名第一的圍棋選手柯潔,隨著棋類游戲最后的堡壘——圍棋也被Alpha Go所攻克,人類在完美信息博弈的游戲中已徹底輸給機(jī)器,只能在不完美信息的德州撲克和麻將中茍延殘喘。
人們從棋類游戲中積累的知識和經(jīng)驗(yàn),也被應(yīng)用在更廣泛的需要決策規(guī)劃的領(lǐng)域,包括機(jī)器人控制、無人車等等。棋類游戲完成了它的歷史使命,帶領(lǐng)人工智能到達(dá)了一個新的歷史起點(diǎn)。
人工智能的現(xiàn)在
時至今日,人工智能的發(fā)展已經(jīng)突破了一定的“閾值”。與前幾次的熱潮相比,這一次的人工智能來得更“實(shí)在”了,這種“實(shí)在”體現(xiàn)在不同垂直領(lǐng)域的性能提升、效率優(yōu)化。計算機(jī)視覺、語音識別、自然語言處理的準(zhǔn)確率都已不再停留在“過家家”的水平,應(yīng)用場景也不再只是一個新奇的“玩具”,而是逐漸在真實(shí)的商業(yè)世界中扮演起重要的支持角色。
語音處理的現(xiàn)在
一個完整的語音處理系統(tǒng),包括前端的信號處理、中間的語音語義識別和對話管理(更多涉及自然語言處理)、以及后期的語音合成。
總體來說,隨著語音技術(shù)的快速發(fā)展,之前的限定條件正在不斷減少:包括從小詞匯量到大詞匯量再到超大詞匯量、從限定語境到彈性語境再到任意語境、從安靜環(huán)境到近場環(huán)境再到遠(yuǎn)場嘈雜環(huán)境、從朗讀環(huán)境到口語環(huán)境再到任意對話環(huán)境、從單語種到多語種再到多語種混雜,但這給語音處理提出了更高的要求。
語音的前端處理中包含幾個模塊。
▵ 說話人聲檢測:有效地檢測說話人聲開始和結(jié)束時刻, 區(qū)分說話人聲與背景聲;
▵ 回聲消除:當(dāng)音箱在播放音樂時,為了不暫停音樂而進(jìn)行有效的語音識別,需要消除來自揚(yáng)聲器的音樂干擾;
▵ 喚醒詞識別:人類與機(jī)器交流的觸發(fā)方式,就像日常生活中需要與其他人說話時,你會先喊一下那個人的名字;
▵ 麥克風(fēng)陣列處理:對聲源進(jìn)行定位,增強(qiáng)說話人方向的信號、抑制其他方向的噪音信號;
▵ 語音增強(qiáng):對說話人語音區(qū)域進(jìn)一步增強(qiáng),、環(huán)境噪聲區(qū)域進(jìn)一步抑制,有效降低遠(yuǎn)場語音的衰減。
除了手持設(shè)備是近場交互外,其他許多場景——車載、智能家居等——都是遠(yuǎn)場環(huán)境。
在遠(yuǎn)場環(huán)境下,聲音傳達(dá)到麥克風(fēng)時會衰減得非常厲害,導(dǎo)致一些在近場環(huán)境下不值一提的問題被顯著放大。這就需要前端處理技術(shù)能夠克服噪聲、混響、回聲等問題、較好地實(shí)現(xiàn)遠(yuǎn)場拾音。
同時,也需要更多遠(yuǎn)場環(huán)境下的訓(xùn)練數(shù)據(jù),持續(xù)對模型進(jìn)行優(yōu)化,提升效果。
語音識別的過程需要經(jīng)歷特征提取、模型自適應(yīng)、聲學(xué)模型、語言模型、動態(tài)解碼等多個過程。除了前面提到的遠(yuǎn)場識別問題之外,還有許多前沿研究集中在解決“雞尾酒會問題”。
“雞尾酒會問題”顯示的是人類的一種聽覺能力,能在多人場景的語音/噪聲混合中,追蹤并識別至少一個聲音,在嘈雜環(huán)境下也不會影響正常交流。
這種能力體現(xiàn)在兩種場景下:
一是人們將注意力集中在某個聲音上時,比如在雞尾酒會上與朋友交談時,即使周圍環(huán)境非常嘈雜、音量甚至超過了朋友的聲音,我們也能清晰地聽到朋友說的內(nèi)容;
二是人們的聽覺器官突然受到某個刺激的時候,比如遠(yuǎn)處突然有人喊了自己的名字,或者在非母語環(huán)境下突然聽到母語的時候,即使聲音出現(xiàn)在遠(yuǎn)處、音量很小,我們的耳朵也能立刻捕捉到。
而機(jī)器就缺乏這種能力,雖然當(dāng)前的語音技術(shù)在識別一個人所講的內(nèi)容時能夠體現(xiàn)出較高的精度,當(dāng)說話人數(shù)為二人或更多時,識別精度就會大打折扣。
如果用技術(shù)的語言來描述,問題的本質(zhì)其實(shí)是給定多人混合語音信號,一個簡單的任務(wù)是如何從中分離出特定說話人的信號和其他噪音,而復(fù)雜的任務(wù)則是分離出同時說話的每個人的獨(dú)立語音信號。
在這些任務(wù)上,研究者已經(jīng)提出了一些方案,但還需要更多訓(xùn)練數(shù)據(jù)的積累、訓(xùn)練過程的打磨,逐漸取得突破,最終解決雞尾酒會問題。
考慮到語義識別和對話管理環(huán)節(jié)更多是屬于自然語言處理的范疇,剩下的就是語音合成環(huán)節(jié)。
語音合成的幾個步驟包括:文本分析、語言學(xué)分析、音長估算、發(fā)音參數(shù)估計等。
基于現(xiàn)有技術(shù)合成的語音在清晰度和可懂度上已經(jīng)達(dá)到了較好的水平,但機(jī)器口音還是比較明顯。
目前的幾個研究方向包括:如何使合成語音聽起來更自然、如何使合成語音的表現(xiàn)力更豐富、如何實(shí)現(xiàn)自然流暢的多語言混合合成。只有在這些方向有所突破,才能使合成的語音真正與人類聲音無異。
可以看到,在一些限制條件下,機(jī)器確實(shí)能具備一定的“聽說”能力。因此在一些具體的場景下,比如語音搜索、語音翻譯、機(jī)器朗讀等,確實(shí)能有用武之地。
但真正做到像正常人類一樣,與其他人流暢溝通、自由交流,還有待時日。
計算機(jī)視覺的現(xiàn)在
計算機(jī)視覺的研究方向,按技術(shù)難度的從易到難、商業(yè)化程度的從高到低,依次是處理、識別檢測、分析理解。
圖像處理是指不涉及高層語義,僅針對底層像素的處理;圖像識別檢測則包含了語音信息的簡單探索;圖像理解則更上一層樓,包含了更豐富、更廣泛、更深層次的語義探索。
目前在處理和識別檢測層面,機(jī)器的表現(xiàn)已經(jīng)可以讓人滿意。但在理解層面,還有許多值得研究的地方。
圖像處理以大量的訓(xùn)練數(shù)據(jù)為基礎(chǔ)(例如通過有噪聲和無噪聲的圖像配對),通過深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練一個端到端的解決方案。有幾種典型任務(wù):去噪聲、去模糊、超分辨率處理、濾鏡處理等。
運(yùn)用到視頻上,主要是對視頻進(jìn)行濾鏡處理。這些技術(shù)目前已經(jīng)相對成熟,在各類P圖軟件、視頻處理軟件中隨處可見。
圖像識別檢測的過程包括圖像預(yù)處理、圖像分割、特征提取和判斷匹配,也是基于深度學(xué)習(xí)的端到端方案??梢杂脕硖幚矸诸悊栴}(如識別圖片的內(nèi)容是不是貓)、定位問題(如識別圖片中的貓在哪里)、檢測問題(如識別圖片中有哪些動物、分別在哪里)、分割問題(如圖片中的哪些像素區(qū)域是貓)等。
這些技術(shù)也已比較成熟,圖像上的應(yīng)用包括人臉檢測識別、OCR(Optical Character Recognition,光學(xué)字符識別)等,視頻上可用來識別影片中的明星等。
當(dāng)然,深度學(xué)習(xí)在這些任務(wù)中都扮演了重要角色。
傳統(tǒng)的人臉識別算法,即使綜合考慮顏色、形狀、紋理等特征,也只能做到95%左右的準(zhǔn)確率。而有了深度學(xué)習(xí)的加持,準(zhǔn)確率可以達(dá)到99.5%,錯誤率下降了10倍,從而使得在金融、安防等領(lǐng)域的廣泛商業(yè)化應(yīng)用成為可能。
OCR領(lǐng)域,傳統(tǒng)的識別方法要經(jīng)過清晰度判斷、直方圖均衡、灰度化、傾斜矯正、字符切割等多項預(yù)處理工作,得到清晰且端正的字符圖像,再對文字進(jìn)行識別和輸出。
而深度學(xué)習(xí)的出現(xiàn)不僅省去了復(fù)雜且耗時的預(yù)處理和后處理工作,更將字準(zhǔn)確率從60%提高到90%以上。
圖像理解本質(zhì)上是圖像與文本間的交互。可用來執(zhí)行基于文本的圖像搜索、圖像描述生成、圖像問答(給定圖像和問題,輸出答案)等。
在傳統(tǒng)的方法下:基于文本的圖像搜索是針對文本搜索最相似的文本后,返回相應(yīng)的文本圖像對;圖像描述生成是根據(jù)從圖像中識別出的物體,基于規(guī)則模板產(chǎn)生描述文本;圖像問答是分別對圖像與文本獲取數(shù)字化表示,然后分類得到答案。
而有了深度學(xué)習(xí),就可以直接在圖像與文本之間建立端到端的模型,提升效果。圖像理解任務(wù)目前還沒有取得非常成熟的結(jié)果,商業(yè)化場景也正在探索之中。
可以看到,計算機(jī)視覺已經(jīng)達(dá)到了娛樂用、工具用的初級階段。
照片自動分類、以圖搜圖、圖像描述生成等等這些功能,都可作為人類視覺的輔助工具。人們不再需要靠肉眼捕捉信息、大腦處理信息、進(jìn)而分析理解,而是可以交由機(jī)器來捕捉、處理和分析,再將結(jié)果返回給人類。
而往未來看,計算機(jī)視覺有希望進(jìn)入自主理解、甚至分析決策的高級階段,真正賦予機(jī)器“看”的能力,從而在智能家居、無人車等應(yīng)用場景發(fā)揮更大的價值。
自然語言處理的現(xiàn)在
自然語言處理中的幾個核心環(huán)節(jié)包括知識的獲取與表達(dá)、自然語言理解、自然語言生成等等,也相應(yīng)出現(xiàn)了知識圖譜、對話管理、機(jī)器翻譯等研究方向,與前述的處理環(huán)節(jié)形成多對多的映射關(guān)系。
由于自然語言處理要求機(jī)器具備的是比“感知”更難的“理解”能力,因此其中的許多問題直到今天也未能得到較好的解決。
知識圖譜是基于語義層面對知識進(jìn)行組織后得到的結(jié)構(gòu)化結(jié)果,可以用來回答簡單事實(shí)類的問題。
包括語言知識圖譜(詞義上下位、同義詞等)、常識知識圖譜(“鳥會飛但兔子不會飛”)、實(shí)體關(guān)系圖譜(“劉德華的妻子是朱麗倩”)。
知識圖譜的構(gòu)建過程其實(shí)就是獲取知識、表示知識、應(yīng)用知識的過程。
舉例來說,針對互聯(lián)網(wǎng)上的一句文本“劉德華攜妻子朱麗倩出席了電影節(jié)”,我們可以從中取出“劉德華”、“妻子”、“朱麗倩”這幾個關(guān)鍵詞,然后得到“劉德華-妻子-朱麗倩”這樣的三元表示。
同樣地,我們也可以得到“劉德華-身高-174cm”這樣的三元表示。將不同領(lǐng)域不同實(shí)體的這些三元表示組織在一起,就構(gòu)成了知識圖譜系統(tǒng)。
語義理解是自然語言處理中的最大難題,這個難題的核心問題是如何從形式與意義的多對多映射中,根據(jù)當(dāng)前語境找到一種最合適的映射。
以中文為例,這里面需要解決4個困難:
首先是歧義消除,包括詞語的歧義(例如“潛水”可以指一種水下運(yùn)動,也可以指在論壇中不發(fā)言)、短語的歧義(例如“進(jìn)口彩電”可以指進(jìn)口的彩電,也可以指一個行動動作)、句子的歧義(例如“做手術(shù)的是他父親”可以指他父親在接受手術(shù),也可以指他父親是手術(shù)醫(yī)生);
其次是上下文關(guān)聯(lián)性,包括指代消解(例如“小明欺負(fù)小李,所以我批評了他。”,需要依靠上下文才知道我批評的是調(diào)皮的小明)、省略恢復(fù)(例如“老王的兒子學(xué)習(xí)不錯,比老張的好。”其實(shí)是指“比老張的兒子的學(xué)習(xí)好”);
第三是意圖識別,包括名詞與內(nèi)容的意圖識別(“晴天”可以指天氣也可以指周杰倫的歌)、閑聊與問答的意圖識別(“今天下雨了”是一句閑聊,而“今天下雨嗎”則是有關(guān)天氣的一次查詢)、顯性與隱性的意圖識別(“我要買個手機(jī)”和“這手機(jī)用得太久了”都是用戶想買新手機(jī)的意圖);
最后一塊是情感識別,包括顯性與隱性的情感識別(“我不高興”和“我考試沒考好”都是用戶在表示心情低落)、基于先驗(yàn)常識的情感識別(“續(xù)航時間長”是褒義的,而“等待時間長”則是貶義的)。
鑒于以上的這種種困難,語義理解可能的解決方案是利用知識進(jìn)行約束,來破解多對多映射的困局,通過知識圖譜來補(bǔ)充機(jī)器的知識。
然而,即使克服了語義理解上的困難,距離讓機(jī)器顯得不那么智障還是遠(yuǎn)遠(yuǎn)不夠的,還需要在對話管理上有所突破。
目前對話管理主要包含三種情形,按照涉及知識的通用到專業(yè),依次是閑聊、問答、任務(wù)驅(qū)動型對話。
閑聊是開放域的、存在情感聯(lián)系和聊天個性的對話,比如“ 今天天氣真不錯。”“是呀,要不要出去走走?”閑聊的難點(diǎn)在于如何通過巧妙的回答激發(fā)興趣/降低不滿,從而延長對話時間、提高粘性;
問答是基于問答模型和信息檢索的對話,一般是單一輪次,比如“劉德華的老婆是誰?”“劉德華的妻子朱麗倩,1966年4月6日出生于馬來西亞檳城…”。問答不僅要求有較為完善的知識圖譜,還需要在沒有直接答案的情況下運(yùn)用推理得到答案;
任務(wù)驅(qū)動型對話涉及到槽位填充、智能決策,一般是多輪次,比如“放一首跑步聽的歌吧”“為您推薦羽泉的《奔跑》”“我想聽英文歌”“為您推薦Eminem的《Notafraid》”簡單任務(wù)驅(qū)動型對話已經(jīng)比較成熟,未來的攻克方向是如何不依賴人工的槽位定義,建立通用領(lǐng)域的對話管理。
歷史上自然語言生成的典型應(yīng)用一直是機(jī)器翻譯。傳統(tǒng)方法是一種名為Phrased-Based Machine Translation(PBMT)的方法:先將完整的一句話打散成若干個詞組,對這些詞組分別進(jìn)行翻譯,然后再按照語法規(guī)則進(jìn)行調(diào)序,恢復(fù)成一句通順的譯文。
整個過程看起來并不復(fù)雜,但其中涉及到了多個自然語言處理算法,包括中文分詞、詞性標(biāo)注、句法結(jié)構(gòu)等等,環(huán)環(huán)相扣,其中任一環(huán)節(jié)出現(xiàn)的差錯都會傳導(dǎo)下去,影響最終結(jié)果。
而深度學(xué)習(xí)則依靠大量的訓(xùn)練數(shù)據(jù),通過端到端的學(xué)習(xí)方式,直接建立源語言與目標(biāo)語言之間的映射關(guān)系,跳過了中間復(fù)雜的特征選擇、人工調(diào)參等步驟。
在這樣的思想下,人們對早在90年代就提出了的“編碼器-解碼器”神經(jīng)機(jī)器翻譯結(jié)構(gòu)進(jìn)行了不斷完善,并引入了注意力機(jī)制(attention mechanism),使系統(tǒng)性能得到顯著提高。
之后谷歌團(tuán)隊通過強(qiáng)大的工程實(shí)現(xiàn)能力,用全新的機(jī)器翻譯系統(tǒng)GNMT(Google Neural Machine Translation)替代了之前的SMT(Statistical machine translation),相比之前的系統(tǒng)更為通順流暢,錯誤率也大幅下降。
雖然仍有許多問題有待解決,比如對生僻詞的翻譯、漏詞、重復(fù)翻譯等,但不可否認(rèn)神經(jīng)機(jī)器翻譯在性能上確實(shí)取得了巨大突破,未來在出境游、商務(wù)會議、跨國交流等場景的應(yīng)用前景也十分可觀。
隨著互聯(lián)網(wǎng)的普及,信息的電子化程度也日益提高。海量數(shù)據(jù)既是自然語言處理在訓(xùn)練過程中的燃料,也為其提供了廣闊的發(fā)展舞臺。搜索引擎、對話機(jī)器人、機(jī)器翻譯,甚至高考機(jī)器人、辦公智能秘書都開始在人們的日常生活中扮演越來越重要的角色。
機(jī)器學(xué)習(xí)的現(xiàn)在
按照人工智能的層次來看,機(jī)器學(xué)習(xí)是比計算機(jī)視覺、自然語言處理、語音處理等技術(shù)層更底層的一個概念。近幾年來技術(shù)層的發(fā)展風(fēng)生水起,處在算法層的機(jī)器學(xué)習(xí)也產(chǎn)生了幾個重要的研究方向。
首先是在垂直領(lǐng)域的廣泛應(yīng)用。
鑒于機(jī)器學(xué)習(xí)還存在不少的局限、不具備通用性,在一個比較狹窄的垂直領(lǐng)域的應(yīng)用就成為了較好的切入口。
因?yàn)樵谙薅ǖ念I(lǐng)域內(nèi),一是問題空間變得足夠小,模型的效果能夠做到更好;二是具體場景下的訓(xùn)練數(shù)據(jù)更容易積累,模型訓(xùn)練更高效、更有針對性;三是人們對機(jī)器的期望是特定的、具體的,期望值不高。
這三點(diǎn)導(dǎo)致機(jī)器在這個限定領(lǐng)域內(nèi)表現(xiàn)出足夠的智能性,從而使最終的用戶體驗(yàn)也相對更好。
因此,在金融、律政、醫(yī)療等等垂直領(lǐng)域,我們都看到了一些成熟應(yīng)用,且已經(jīng)實(shí)現(xiàn)了一定的商業(yè)化??梢灶A(yù)見,在垂直領(lǐng)域內(nèi)的重復(fù)性勞動,未來將有很大比例會被人工智能所取代。
其次是從解決簡單的凸優(yōu)化問題到解決非凸優(yōu)化問題。
優(yōu)化問題,是指將所有的考慮因素表示為一組函數(shù),然后從中選出一個最優(yōu)解。而凸優(yōu)化問題的一個很好的特性是——局部最優(yōu)就是全局最優(yōu)。
目前機(jī)器學(xué)習(xí)中的大部分問題,都可以通過加上一定的約束條件,轉(zhuǎn)化或近似為一個凸優(yōu)化問題。
雖然任何的優(yōu)化問題通過遍歷函數(shù)上的所有點(diǎn),一定能夠找到最優(yōu)值,但這樣的計算量十分龐大。
尤其當(dāng)特征維度較多的時候,會產(chǎn)生維度災(zāi)難(特征數(shù)超過已知樣本數(shù)可存在的特征數(shù)上限,導(dǎo)致分類器的性能反而退化)。而凸優(yōu)化的特性,使得人們能通過梯度下降法尋找到下降的方向,找到的局部最優(yōu)解就會是全局最優(yōu)解。
但在現(xiàn)實(shí)生活中,真正符合凸優(yōu)化性質(zhì)的問題其實(shí)并不多,目前對凸優(yōu)化問題的關(guān)注僅僅是因?yàn)檫@類問題更容易解決。
就像在夜晚的街道上丟了鑰匙,人們會優(yōu)先在燈光下尋找一樣。因此,換一種說法,人們現(xiàn)在還缺乏針對非凸優(yōu)化問題的行之有效的算法,這也是人們的努力方向。
第三點(diǎn)是從監(jiān)督學(xué)習(xí)向非監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的演進(jìn)。
目前來看,大部分的AI應(yīng)用都是通過監(jiān)督學(xué)習(xí),利用一組已標(biāo)注的訓(xùn)練數(shù)據(jù),對分類器的參數(shù)進(jìn)行調(diào)整,使其達(dá)到所要求的性能。但在現(xiàn)實(shí)生活中,監(jiān)督學(xué)習(xí)不足以被稱為“智能”。
對照人類的學(xué)習(xí)過程,許多都是建立在與事物的交互中,通過人類自身的體會、領(lǐng)悟,得到對事物的理解,并將之應(yīng)用于未來的生活中。而機(jī)器的局限就在于缺乏這些“常識”。
卷積神經(jīng)網(wǎng)絡(luò)之父、Facebook AI 研究院院長Yann LeCun曾通過一個“黑森林蛋糕”的比喻來形容他所理解的監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)與強(qiáng)化學(xué)習(xí)間的關(guān)系:
如果將機(jī)器學(xué)習(xí)視作一個黑森林蛋糕,那(純粹的)強(qiáng)化學(xué)習(xí)是蛋糕上不可或缺的櫻桃,需要的樣本量只有幾個Bits;監(jiān)督學(xué)習(xí)是蛋糕外層的糖衣,需要10到10000個Bits的樣本量;無監(jiān)督學(xué)習(xí)則是蛋糕的主體,需要數(shù)百萬Bits的樣本量,具備強(qiáng)大的預(yù)測能力。
但他也強(qiáng)調(diào),櫻桃是必須出現(xiàn)的配料,意味著強(qiáng)化學(xué)習(xí)與無監(jiān)督學(xué)習(xí)是相輔相成、缺一不可的。
無監(jiān)督學(xué)習(xí)領(lǐng)域近期的研究重點(diǎn)在于“生成對抗網(wǎng)絡(luò)”(GANs),其實(shí)現(xiàn)方式是讓生成器(Generator)和判別器(Discriminator)這兩個網(wǎng)絡(luò)互相博弈,生成器隨機(jī)從訓(xùn)練集中選取真實(shí)數(shù)據(jù)和干擾噪音,產(chǎn)生新的訓(xùn)練樣本,判別器通過與真實(shí)數(shù)據(jù)進(jìn)行對比,判斷數(shù)據(jù)的真實(shí)性。
在這個過程中,生成器與判別器交互學(xué)習(xí)、自動優(yōu)化預(yù)測能力,從而創(chuàng)造最佳的預(yù)測模型。
自2014由Ian Goodfellow提出后,GANs席卷各大頂級會議,被Yann LeCun 評價為是“20年來機(jī)器學(xué)習(xí)領(lǐng)域最酷的想法”。
而強(qiáng)化學(xué)習(xí)這邊,則更接近于自然界生物學(xué)習(xí)過程的本源:如果把自己想象成是環(huán)境(environment)中一個代理(agent),一方面你需要不斷探索以發(fā)現(xiàn)新的可能性(exploration),一方面又要在現(xiàn)有條件下做到極致(exploitation)。
正確的決定或早或晚一定會為你帶來獎勵(positive reward),反之則會帶來懲罰(negative reward),知道最終徹底掌握問題的答案(optimal policy)。
強(qiáng)化學(xué)習(xí)的一個重要研究方向在于建立一個有效的、與真實(shí)世界存在交互的仿真模擬環(huán)境,不斷訓(xùn)練,模擬采取各種動作、接受各種反饋,以此對模型進(jìn)行訓(xùn)練。
人工智能的未來
隨著技術(shù)水平的突飛猛進(jìn),人工智能終于迎來它的黃金時代。回顧人工智能六十年來的風(fēng)風(fēng)雨雨,歷史告訴了我們這些經(jīng)驗(yàn):
首先,基礎(chǔ)設(shè)施帶來的推動作用是巨大的,人工智能屢次因數(shù)據(jù)、運(yùn)算力、算法的局限而遇冷,突破的方式則是由基礎(chǔ)設(shè)施逐層向上推動至行業(yè)應(yīng)用;
其次,游戲AI在發(fā)展過程中扮演了重要的角色,因?yàn)橛螒蛑袪可娴饺藱C(jī)對抗,能幫助人們更直觀地理解AI、感受到觸動,從而起到推動作用;
最后,我們也必須清醒地意識到,雖然在許多任務(wù)上,人工智能都取得了匹敵甚至超越人類的結(jié)果,但瓶頸還是非常明顯的。
比如計算機(jī)視覺方面,存在自然條件的影響(光線、遮擋等)、主體的識別判斷問題(從一幅結(jié)構(gòu)復(fù)雜的圖片中找到關(guān)注重點(diǎn));語音技術(shù)方面,存在特定場合的噪音問題(車載、家居等)、遠(yuǎn)場識別問題、長尾內(nèi)容識別問題(口語化、方言等);自然語言處理方面,存在理解能力缺失、與物理世界缺少對應(yīng)(“常識”的缺乏)、長尾內(nèi)容識別等問題。
總的來說,我們看到,現(xiàn)有的人工智能技術(shù),一是依賴大量高質(zhì)量的訓(xùn)練數(shù)據(jù),二是對長尾問題的處理效果不好,三是依賴于獨(dú)立的、具體的應(yīng)用場景、通用性很低。
而往未來看,人們對人工智能的定位絕不僅僅只是用來解決狹窄的、特定領(lǐng)域的某個簡單具體的小任務(wù),而是真正成為和人類一樣,能同時解決不同領(lǐng)域、不同類型的問題,像人類一樣進(jìn)行判斷和決策,也就是所謂的通用人工智能(Artificial General Intelligence, AGI)。
具體來說,需要機(jī)器一方面能夠通過感知學(xué)習(xí)、認(rèn)知學(xué)習(xí)去理解世界,另一方面通過強(qiáng)化學(xué)習(xí)去模擬世界。
前者讓機(jī)器能感知信息,并通過注意、記憶、理解等方式將感知信息轉(zhuǎn)化為抽象知識,快速學(xué)習(xí)人類積累的知識;后者通過創(chuàng)造一個模擬環(huán)境,讓機(jī)器通過與環(huán)境交互試錯來獲得知識、持續(xù)優(yōu)化知識。
人們希望通過算法上、學(xué)科上的交叉、融合和優(yōu)化,整體解決人工智能在創(chuàng)造力、通用性、對物理世界理解能力上的問題。
在未來,底層的基礎(chǔ)設(shè)施將會是由互聯(lián)網(wǎng)、物聯(lián)網(wǎng)提供的現(xiàn)代人工智能場景和數(shù)據(jù),這些是生產(chǎn)的原料;
算法層將會是由深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)提供的現(xiàn)代人工智能核心模型,輔以云計算提供的核心算力,這些是生產(chǎn)的引擎;
在這些的基礎(chǔ)之上,不管是計算機(jī)視覺、自然語言處理、語音技術(shù),還是游戲AI、機(jī)器人等,都是基于同樣的數(shù)據(jù)、模型、算法之上的不同的應(yīng)用場景。
這其中還存在著一些亟待攻克的問題,如何解決這些問題正是人們一步一個腳印走向AGI的必經(jīng)之路。
首先是從大數(shù)據(jù)到小數(shù)據(jù)。
深度學(xué)習(xí)的訓(xùn)練過程需要大量經(jīng)過人工標(biāo)注的數(shù)據(jù),例如無人車研究需要大量標(biāo)注了車、人、建筑物的街景照片,語音識別研究需要文本到語音的播報和語音到文本的聽寫,機(jī)器翻譯需要雙語的句對,圍棋需要人類高手的走子記錄等。
但針對大規(guī)模數(shù)據(jù)的標(biāo)注工作是一件費(fèi)時費(fèi)力的工作,尤其對于一些長尾的場景來說,連基礎(chǔ)數(shù)據(jù)的收集都成問題。
因此,一個研究方向就是如何在數(shù)據(jù)缺失的條件下進(jìn)行訓(xùn)練,從無標(biāo)注的數(shù)據(jù)里進(jìn)行學(xué)習(xí),或者自動模擬(生成)數(shù)據(jù)進(jìn)行訓(xùn)練,目前特別火熱的GANs就是一種數(shù)據(jù)生成模型。
其次是從大模型到小模型。
目前深度學(xué)習(xí)的模型都非常大,動輒幾百兆字節(jié)(MB)、大的甚至可以到幾千兆字節(jié)(GB)甚至幾十千兆字節(jié)(GB)。
雖然模型在PC端運(yùn)算不成問題,但如果要在移動設(shè)備上使用就會非常麻煩。這就造成語音輸入法、語音翻譯、圖像濾鏡等基于移動端的APP無法取得較好的效果。
這塊的研究方向在于如何精簡模型的大小,通過直接壓縮或是更精巧的模型設(shè)計,通過移動終端的低功耗計算與云計算之間的結(jié)合,使得在小模型上也能跑出大模型的效果。
最后是從感知認(rèn)知到理解決策。
人類智能在感知和認(rèn)知的部分,比如視覺、聽覺,機(jī)器在一定限定條件下已經(jīng)能夠做到足夠好了。當(dāng)然這些任務(wù)本來也不難,機(jī)器的價值在于可以比人做得更快、更準(zhǔn)、成本更低。
但這些任務(wù)基本都是靜態(tài)的,即在給定輸入的情況下,輸出結(jié)果是一定的。而在一些動態(tài)的任務(wù)中,比如如何下贏一盤圍棋、如何開車從一個路口到另一個路口、如何在一支股票上投資并賺到錢,這類不完全信息的決策型的問題,需要持續(xù)地與環(huán)境進(jìn)行交互、收集反饋、優(yōu)化策略,這些也正是強(qiáng)化學(xué)習(xí)的強(qiáng)項。而模擬環(huán)境(模擬器)作為強(qiáng)化學(xué)習(xí)生根發(fā)芽的土壤,也是一個重要的研究方向。