LSTM之父預(yù)測人工智能奇點(diǎn)或在2030年到來|GMIS2017 上的AI大佬都說了啥
原創(chuàng)如今,要問科技界最重要的事是什么,幾乎所有人都會(huì)回答——人工智能。是的,人工智能正在為我們帶來一個(gè)黃金時(shí)代。這個(gè)時(shí)代的標(biāo)志不僅僅是一個(gè)算法的改進(jìn),一種服務(wù)的出現(xiàn),或是一場比賽的勝利。關(guān)注技術(shù)的演進(jìn),最終目標(biāo)在于探索它們將如何推動(dòng)產(chǎn)業(yè)的變革,作為新的引擎提高生產(chǎn)力,改變我們的生活。
5 月 27 日,由機(jī)器之心主辦的為期兩天的GMIS 2017 大會(huì)在北京拉開帷幕。據(jù)悉,眾多來自瑞士、美國、加拿大以及國內(nèi)的眾多人工智能學(xué)術(shù)大咖、業(yè)界大牛都會(huì)亮相GMIS的舞臺(tái)。下面讓我們一起了解,在備受矚目的GMIS首日論壇上,AI大佬們分享了哪些精彩的觀點(diǎn)。
Jürgen Sc Jürgen Schmidhuber:人工智能奇點(diǎn)或?qū)⒃?030年到來
Jürgen Sc Jürgen Schmidhuber 人工智能之父
作為GMIS2017開場嘉賓,Jürgen Sc Jürgen Schmidhuber對20世紀(jì)的人工智能進(jìn)行了簡要的回顧,并對未來做出自己的展望。
近幾年,由Jürgen Schmidhuber提出的LSTM推動(dòng)RNN在語音識(shí)別、語言建模、翻譯、圖片描述、聊天機(jī)器人等科技領(lǐng)域的廣泛應(yīng)用,并在谷歌、蘋果、微軟、百度等科技巨頭的許多關(guān)鍵業(yè)務(wù)中得到使用。
作為RNN的一種特別類型,LSTM通過刻意的設(shè)計(jì),使長期依賴信息的學(xué)習(xí)更加有效。“長短時(shí)記憶是跟人的大腦相關(guān)的,”Jürgen 說道,“在我們的大腦皮層中有 100 多億的神經(jīng)元。它們就像小的處理器,有的是處理輸入的,有的是用于圖像捕捉的,你還有疼痛神經(jīng)來捕捉疼痛,還有一些肌肉的神經(jīng)來控制你的肌肉。另外還有一些用于思考的神經(jīng)元,他們之間會(huì)有彼此的交流。在執(zhí)行任務(wù)時(shí),神經(jīng)元會(huì)影響其他與之相連的神經(jīng)元,這些連接的強(qiáng)度會(huì)隨著隨著人們的學(xué)習(xí)會(huì)改變,我們稱之為持續(xù)連接,這也是長短期記憶網(wǎng)絡(luò)獲得啟發(fā)的地方。”
在 LSTM 的研究之后,Jürgen 的團(tuán)隊(duì)繼續(xù)朝著自己的通用人工智能目標(biāo)前進(jìn)。他們在 2015 年研發(fā)出了具有好奇心的自我學(xué)習(xí)人形機(jī)器人。這種機(jī)器人可以通過自己的機(jī)械臂與世界接觸感受并學(xué)習(xí)重力等概念。這距離自我學(xué)習(xí)人工智能的目標(biāo)又更近了一步。
如今,Jürgen正在帶領(lǐng)他的人工智能公司 Nnaisense通過新的元學(xué)習(xí)和機(jī)器好奇心創(chuàng)造更多可能性,優(yōu)化程序搜索和大規(guī)模強(qiáng)化學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的效率,帶來新的突破,改變一切。
Jürgen 大膽預(yù)言,在未來幾年人類將創(chuàng)造出具有靈長類動(dòng)物智能的人工智能系統(tǒng)。而人工智能終將代替人類,展開殖民宇宙的旅途。“宇宙歷史中重大事件之間的間隔時(shí)間似乎正在以指數(shù)級(jí)的速度縮短——每個(gè)大事件到來的時(shí)間是前一個(gè)大事件的四分之一。如果仔細(xì)研究了這個(gè)模式,看起來下一個(gè)事件將要出現(xiàn)于 2030 年。”Jürgen這樣預(yù)測奇點(diǎn)過后的世界。
鄧力:無監(jiān)督學(xué)習(xí)將成為未來趨勢
鄧力 Citadel 首席人工智能官、前微軟AI首席科學(xué)家
監(jiān)督式學(xué)習(xí)采用一對對映射的輸入輸出方式來訓(xùn)練整個(gè)系統(tǒng),一對輸入輸出就像一個(gè)老師,由老師教給機(jī)器如何進(jìn)行識(shí)別或預(yù)測。這種范式在語言識(shí)別、機(jī)器翻譯等方面的應(yīng)用都取得了很大成功。但另一方面,由于我們需要給系統(tǒng)提供海量的輸入輸出成對數(shù)據(jù),這種訓(xùn)練方法具有非常高的成本。
Citadel 首席人工智能官、前微軟AI首席科學(xué)家鄧力為大家介紹了無監(jiān)督學(xué)習(xí)的強(qiáng)大之處,表明無監(jiān)督式學(xué)習(xí)是深度學(xué)習(xí)當(dāng)中的一種范式,我們不需要給系統(tǒng)提供非常具體的信號(hào),就能夠讓機(jī)器在無監(jiān)督的狀態(tài)下成功學(xué)到需要學(xué)習(xí)的東西。
在沒有一種辦法在為機(jī)器提供學(xué)習(xí)材料的同時(shí),又不需要人類提供那些成本高昂的輸入輸出映射呢?
對此,鄧力的團(tuán)隊(duì)提出了假設(shè)并進(jìn)行實(shí)驗(yàn):“我們用語言來作為機(jī)器學(xué)習(xí)的指導(dǎo)。自然語言的數(shù)據(jù)可以是一個(gè)很困難的東西,但是我們可以單獨(dú)拿出來使用,不把這個(gè)自然語言和任何的圖象進(jìn)行配對。這樣我們就極大地降低了培訓(xùn)的成本、訓(xùn)練機(jī)器的成本。”
演講中,鄧力提出了采用SPDG(Stochastic primal-dual gradient method,隨機(jī)原始-對偶梯度方法)在沒有標(biāo)注的情況下學(xué)習(xí)如何做預(yù)測,來將形式化的原始問題轉(zhuǎn)化為極小極大對偶問題,并采用隨機(jī)梯度下降來求得最優(yōu)參數(shù)。
鄧力認(rèn)為,無監(jiān)督式學(xué)習(xí)將成為未來的主流趨勢。“無監(jiān)督學(xué)習(xí)比監(jiān)督學(xué)習(xí)更有趣,但是也更困難。我們可以使用更多的一些數(shù)據(jù)來進(jìn)行學(xué)習(xí),比如說像我剛才所說的 SPDG 這樣一個(gè)線性的方式,該方法不需要進(jìn)行標(biāo)記,但它可以直接進(jìn)行學(xué)習(xí)來聽聲音的識(shí)別或者說做一些翻譯。我們也需要很多的發(fā)明來使無監(jiān)督學(xué)習(xí)更加地有效。”
馬維英:人工智能重新定義信息平臺(tái)
馬維英 今日頭條副總裁、人工智能實(shí)驗(yàn)室負(fù)責(zé)人
人工智能時(shí)代的到來,使軟件產(chǎn)業(yè)吞噬全世界的同時(shí),其自身也在被顛覆。今日頭條副總裁、人工智能實(shí)驗(yàn)室負(fù)責(zé)人馬維英自今年2月加入今日頭條以來,深刻感受到在AI的浪潮下,一個(gè)新時(shí)代的信息平臺(tái)正在被定義,也與大家分享了他所看到的領(lǐng)域的最新發(fā)展。
馬維英表示,過去索引擎對用戶的理解可能只是通過幾個(gè)密切搜索的關(guān)鍵詞以及瀏覽過的網(wǎng)頁,將網(wǎng)站里的結(jié)構(gòu)信息重建后做相關(guān)排序。但排序算法不具有針對每個(gè)用戶的個(gè)性化特征,所以每個(gè)人看到的搜索結(jié)果都是一樣的。
而今天,頭條會(huì)根據(jù)用戶瀏覽內(nèi)容的的偏好,無論是新聞、圖片、視頻還是評(píng)論,通過深度學(xué)習(xí)的方式建立高維向量表,機(jī)器知道他們在什么時(shí)候想看什么,這些信息幫助他們真正理解用戶。人工智能清楚的定義每一個(gè)輸入跟輸出,每個(gè)信息流中間都可以做遷移學(xué)習(xí),一個(gè)用戶的興趣愛好可能也能夠幫助學(xué)習(xí)另外一個(gè)用戶的興趣愛好,從而產(chǎn)生正向循環(huán)。
最后馬維英說到,“ 今天我們進(jìn)到一個(gè)人工智能的時(shí)代,我們可以利用這樣一個(gè)新的技術(shù),來讓每一個(gè)人都能夠有一個(gè)無所不在的機(jī)器智能,幫助他們能夠來發(fā)現(xiàn)、使用、交流跟創(chuàng)作信息。”
在GMIS第一天的會(huì)場上,除上面提到的三位大佬,騰訊 AI Lab 副主任俞棟、英特爾 AIPG 數(shù)據(jù)科學(xué)部主任、GE Transportation Digital Solutions CTO Wesly Mukai 等知名人工智能專家也分別在主題演講、圓桌論壇等互動(dòng)形式下,從科學(xué)家、企業(yè)家、技術(shù)專家的視角,論述精彩觀點(diǎn),解讀人工智能的未來發(fā)展。
據(jù)悉,全球機(jī)器智能峰會(huì)( GMIS 2017 ),是全球人工智能產(chǎn)業(yè)信息服務(wù)平臺(tái)機(jī)器之心舉辦的首屆大會(huì),來自美國、歐洲、加拿大及國內(nèi)的眾多頂級(jí)專家參會(huì)演講。本次大會(huì)共計(jì) 47 位嘉賓、5 個(gè)Session、32 場演講、4 場圓桌論壇、1 場人機(jī)大戰(zhàn),兼顧學(xué)界與產(chǎn)業(yè)、科技巨頭與創(chuàng)業(yè)公司,以專業(yè)化、全球化的視角為人工智能從業(yè)者和愛好者奉上一場機(jī)器智能盛宴。