2016年年初,傳奇的圍棋棋手李世石與一個圍棋界的"新手"開始了一系列舉世矚目的較量。

圍棋是一種棋盤類游戲,于2500年前發(fā)源于中國。它是一種比國際象棋更為復雜的策略游戲,全球有75個國家的選手積極地參與其中。

李世石,圍棋九段棋手,從2002年起多次獲得世界冠軍。他面對的是一個看不見的敵手-AlphaGo。AlphaGo是由倫敦的谷歌DeepMind團隊開發(fā)的。不知道李世石在賽前對他的對手了解多少,也許他從科學作家馬修布拉加的關于圍棋的文章中得到了安慰。該文章于2014年發(fā)表,其中談到了圍棋:

“…是少數(shù)幾種計算機智能尚未掌握的游戲之一。該游戲有著太多的可能的走法,讓程序員長期以來陷入僵局。”

但在數(shù)據(jù)科學領域, 24個月已經(jīng)是一段相當長的時間了。谷歌的深度學習算法可以打敗優(yōu)秀的計算機對手,甚至是在讓對手四子先手的情況下。 2016年1月, AlphaGo曾以5:0的比分完勝歐洲冠軍樊磨。2016年3月, AlphaGo挑戰(zhàn)傳奇選手李世石。

1、最后一子

在最后一子落下之前,勝負已經(jīng)十分明了。法國著名媒體機構CAUSEUR尖叫: "李世石感到羞恥的一天。"震驚的九段冠軍掙扎著講述他被數(shù)學算法打敗:

“...我應該表現(xiàn)得更好,應該有更好的結果以及更好的比賽過程。我為沒能滿足很多人的期望而道歉。我有些無能為力。”

李世石僅僅是另一個在人機對戰(zhàn)中被高度關注的選手。人機對戰(zhàn)的歷史可以追溯到約翰亨利和新技術蒸汽鉆那場史詩般的對戰(zhàn)。在那場無限制的比賽中,雙方表現(xiàn)得旗鼓相當,最終亨利獲勝,但不久就因虛脫而死。隨著鐵路蜿蜒穿越整個美國,蒸汽鉆成了必不可少的工具。深度學習之于李世石如同蒸汽鉆之于約翰享利。

1.2 —件怪事

奇怪的是,對于那些以建立專家模型為生的人,從神經(jīng)網(wǎng)絡和其他來自機器學習的高度技術中獲益是顯而易見的。實際上(與理論猜測相反) ,深度學習的驚人成果受到了商界、政府機構、研究界以及越來越多的學者的高度重視。正如一位學者所說:

"20世紀90年代,經(jīng)驗主義的復興是一個激動人心的時刻。我們從來沒有想到,我們的努力會如此成功。當時,我們想要的只不過是一席之地而已。在當時流行的各項研究之外,我們所想的只是為不同于當時其他研究的工作爭取一點空間。”

1.3 兩類人

還記得那個古老的笑話嗎?世界上有兩類人——一類人相信世界上有兩類人,而另一類人完全不相信前一觀點。好吧,我確實相信世界上有兩種數(shù)據(jù)科學家。我并不是在說那些學習計算機科學的數(shù)據(jù)科學家和那些學習統(tǒng)計學的數(shù)據(jù)科學家。任何稱職的數(shù)據(jù)科學家都可以在需要概率、統(tǒng)計、數(shù)據(jù)結構和算法的時候信手拈來。實際上,本書中的建議同樣適用于這兩個學科的數(shù)據(jù)科學家,我們也會看到對兩者都有很大好處的例子。

我也不是在談論機器學習狂熱分子與傳統(tǒng)統(tǒng)計建模的數(shù)據(jù)科學家。經(jīng)典的統(tǒng)計建模和由現(xiàn)代機器學習開發(fā)的算法在識別和利用數(shù)據(jù)集的重要特征方面都起著重要的作用。本書將幫助你更好地理解這兩種方法,并將它們更有效地結合到分析數(shù)據(jù)集中。

我甚至談論的也不是具有專門領域知識的數(shù)據(jù)科學家和那些通才的數(shù)據(jù)科學家。在一個學科深入進去并精通,是會有很好的回報的;靈活地跨越多個學科之間需要非凡的天分,也會是收獲頗豐的。本書會在這兩個方面幫助到你。

好吧,我認為世界上的兩種數(shù)據(jù)科學家是具備深度學習技術知識的和不具備深度學習技術知識的。我不是說那些缺乏這些知識的人就比他們當代的同行們不專業(yè)。簡單來說,深度學習的知識能讓你接觸到更廣范圍的工具,能從不同的角度解決具有挑戰(zhàn)性的問題,并能快速有效地得出解決方案。簡而言之,深度學習擴展了你的數(shù)據(jù)科學工具包。

一位數(shù)據(jù)科學家,如果對深度學習優(yōu)秀的方法知之甚少,那么與具有該技能的同事相比,這會是一個非常顯著的缺點。從衰老研究到動物學分析,對深度學習技能的需求都是非常高的。

2、什么是深度學習

深度學習是機器學習與神經(jīng)網(wǎng)絡、人工智能、圖形化建模、優(yōu)化、模式識別和信號處理等技術融合后產(chǎn)生的一個領域。在嚴謹?shù)膶W術期刊中,這個新興學科的模型一直受嚴肅理智的學者所推崇:

"深度學習網(wǎng)絡是神經(jīng)網(wǎng)絡革命性的發(fā)展,人們甚至認為可以用它來創(chuàng)建更強大的預測模型。”

2.1 成功的藍圖

簡單來說,深度神經(jīng)網(wǎng)絡是一種用多層抽象來表示概念或特征的方式。其實,任何工程師或者建筑師都在用這種基本方法。想想大型辦公樓的藍圖:在最底層,會標示出電路、水管和排水系統(tǒng)的詳細情況;而在最高層,可能會有一個旋轉(zhuǎn)觀景臺和旗桿,能看到整個30層樓的輪廓。

深度神經(jīng)網(wǎng)絡也遭循這個非常有用的方案。該方案幾乎被用于生活的各個領域。醫(yī)生有診斷書,教師有教學大綱,企業(yè)有盈利策劃書,甚至學術界都有一個發(fā)表研究論文的規(guī)范。

實際上,在生活中很難找出不用多層抽象來表達觀點的例子——軍隊指揮官用相同的原則部署作戰(zhàn),政治家以此贏得競選。相同的原理同樣適用于神經(jīng)網(wǎng)絡或者其他多層模型的分類和預測,這是室無道理的。

更快的計算機處理器,日益廉價的內(nèi)存以及層出不窮的新數(shù)據(jù)格式,使得任意規(guī)模的企業(yè)都能用深度學習來做數(shù)據(jù)分析。

2.2 有監(jiān)督學習和無監(jiān)督學習

深度學習使用多層機器學習模型對數(shù)據(jù)進行有監(jiān)督學或無監(jiān)督學習。模型中的不同層由非線性數(shù)據(jù)變換的多個階段組成,數(shù)據(jù)的特征在相繼更高、更抽象的層表示。

數(shù)據(jù)科學領域有如下兩種基本的學習類型。

有監(jiān)督學習:訓練的數(shù)據(jù)包含已知的結果。模型相對于這些結果進行訓練。

無監(jiān)督學習:訓練數(shù)據(jù)不包含任何已知的結果。算法自行發(fā)現(xiàn)數(shù)據(jù)中的聯(lián)系。

2.3 深度學習的流程

在學習深度學習的核心思想時,我們采取的通用方法一般如圖2.1所示。無論開發(fā)什么類型的機器學習模型,最終都回歸到這個基本模型。輸入數(shù)據(jù)傳遞給模型,經(jīng)過多個非線性層進行過濾,最后一層包含分類器——決定該對象所屬的種類。

圖2.1 通用深度學習框架

用數(shù)據(jù)進行學習的目標是預測響應變量或者用一組給定的屬性對響應變量分類。這與線性回歸有點類似,在線性回歸中,用一組獨立變量(也叫屬性或特征)通過一個線性模型來預測因(響應)變量。不過,傳統(tǒng)的線性回歸模型并不被視為深度學習,因為它們沒有對數(shù)據(jù)進行多層的非線性變換。

其他流行的數(shù)據(jù)學習技術有決策樹( decision tree ) 、隨機森林( random forest )和支持向量機(support vector machine )。這些技術雖然強大,但是并不深入。決策樹和隨機森林工作在原始輸入數(shù)據(jù)上,不進行變換,也不生成新特征;支持向量機層次較淺,因為它們僅由核函數(shù)和線性變換組成。類似地單隱藏層神經(jīng)網(wǎng)絡也不被視為深度神經(jīng)網(wǎng)絡,因為它們只包含一個隱藏層。

3、深度學習能解決什么問題

深度學習的威力來自于用適量的并行非線性步驟對非線性數(shù)據(jù)進行分類或預測的能力。從原始輸入數(shù)據(jù)到數(shù)據(jù)的實際分類的過程中,深度學習模型學習輸入數(shù)據(jù)的分層特征。每一層從前一層的輸出中提取特征。

本書所指的深度學習模型是有多個隱藏層的神經(jīng)網(wǎng)絡。如圖2.2所示,最簡單的深度神經(jīng)網(wǎng)絡至少包含兩層的隱藏神經(jīng)元。其中每一層的輸入來自上一層的輸出。

圖2.2 帶兩個隱蔽層的前饋神經(jīng)網(wǎng)絡

多層深度神經(jīng)網(wǎng)絡有多個非線性層級,可以緊湊地表示高度非線性的和/或高度變化的函數(shù)。它們擅長識別數(shù)據(jù)中的復雜模式,可以用來改進計算機視覺和自然語言處理等工作,并可以解決非結構化數(shù)據(jù)難題。

全球發(fā)行且讀者眾多的雜志《IEEE Spectrum》 報道 :"數(shù)據(jù)科學家供不應求。這些專業(yè)人士享有高薪和大型股票期權......"據(jù)麥肯錫全球研究所稱,僅美國就缺少14萬~19萬具備適當技能的數(shù)據(jù)科學家,哈佛商業(yè)評論聲稱數(shù)據(jù)科學是21世紀最吸引人的工作。

4、哪些領域使用深度學習

深度學習技術正商業(yè)化地應用在醫(yī)療保健行業(yè)、醫(yī)學圖像處理、自然語言處理和提高廣告點擊率等領域。微軟、IBM、雅虎、Twitter、百度、PayPal和Facebook都在運用深度學習來了解用戶的偏好,以便能推薦針對性的服務和產(chǎn)品。深度學習無處不在,甚至用在智能手機上來支持語音輔助技術。

很難想出一個不能從深度學習受益的商業(yè)活動。思考5分鐘,把你一些最好的想法列下來。

這是我想到的領域列表:

過程建模和控制

健康診斷

投資組合管理

軍事目標識別

核磁共振和X光分析

銀行和其他金融機構的個人信用評級

營銷活動

語音識別

股市預測

文本檢索

金融欺詐檢測

Richard Socher寫下了自己的列表,從中找到了一個有用的應用,與他人聯(lián)合創(chuàng)立MetaMind,該公司專門從事醫(yī)學圖像分析和自動圖像識別。其他數(shù)據(jù)科學家、企業(yè)家、應用研究人員,甚至可能是你,將會跟隨Richard的腳步進入這個日益增長的利潤空間。

4.1深度學習能揭開永葆青春的秘密嗎

有一天,我從一個科研機構獲得一篇新聞稿,其中有一則新奇的消息-發(fā)生了一件極具吸引力的事情,其中涉及深度學習。這則新聞報道涉及美容行業(yè),該行業(yè)每年有超過2600億美元的全球市場。

美容產(chǎn)品的核心在于保持青春-逆轉(zhuǎn)衰老。在世界各地,這一承諾反映在人們每年每天花費在市場營銷的數(shù)百萬美元上。充滿青春活力、成熟快樂人士的形象廣告充斥著人們的手機、平板電腦和筆記本電腦。

無論你在什么時候碰巧讀到本書,都會有一個承諾永葆青春的新美客產(chǎn)品剛剛發(fā)布。不信你去看看,快速地在網(wǎng)上搜索一下......

4.2衰老的挑戰(zhàn)

有史以來,衰老的挑戰(zhàn)一直是偉大思想家、政治家和科學家關注的前沿。期美國老年學家I.L. Nascher在他的經(jīng)典著作中寫到 :

“為什么人會變老,或者為什么經(jīng)過一段時間的身體機能完美后,器官和組織會退化,其功能變?nèi)醪⒉∽?直到它們無法維持生命所必需的、和諧的相互關系,這個問題是生與死這一偉大問題的一部分。”

直到1601年,英國伊麗莎白女王宣布的《濟貧法》使這一問題有所緩解,被遺棄的老人因無工作能力窮困無依的困境,是制定該法律的一個關鍵問題:

“...維持秩序,為國家的福祉做出貢獻。”

《濟貧法》要求兒女贍養(yǎng)他們的父母和祖父母,因為I.L.Nascher觀察到:

“在中國有敬奉祖先和老人的精神,但在我們這里沒有。”

《濟貧法》在英國持續(xù)了250多年。在這段時間里,英國人的預期壽命從約40歲翻了一番,超過了80歲。其他國家也有類似的趨勢。

4.3眾多的理論

預期壽命的穩(wěn)步上升有很多原因。臨床外科專家Victor Horsley爵士將衰老歸因于甲狀腺的退化;著名科學家Elie Metchnikoff提出“吞噬作用"的理論--大腸白細胞破壞加速老化的細菌;著名的老年學家Shock博士在一次激烈的討論中大膽地宣稱:

"或許老年醫(yī)學研究最有用的貢獻之一就是證明衰老不一定與退化和疾病有關。”

衰老問題依然存在無數(shù)理論,生物學家、老年學家和人口學家之間存在巨大的分歧。衰老是一種疾病嗎?人類的壽命是有限的嗎?衰老可以停止甚至反轉(zhuǎn)嗎?

4.4數(shù)據(jù)科學家的答案

一則新的消息引起了我的注意,因為它說到,深度學習很可能一勞永逸地解決衰老這個問題。由青年實驗室聯(lián)合創(chuàng)始人Alex Zhavoronkov帶領的研究人員進行了一項研究,旨在確定與衰老相關的一組生物指標,一旦成功,這些指標便可以用來有針對性地長期跟蹤干預治療的有效性。這項研究一個令人震驚的地方便是-它僅需進行基本的血液檢測。

研究人員開發(fā)了一套深度神經(jīng)網(wǎng)絡來預測實際年齡。它用超過60000個樣本進行訓練。研究人員驚奇地發(fā)現(xiàn),該系統(tǒng)確定了5個核心的生物指標,預測精度達81.5%。

這個非常新穎且頗具開拓性的分析發(fā)表在世界著名的研究雜志上。該研究結果極具價值,研究人員也受邀參加世界美容創(chuàng)新峰會——深度學習進軍美容行業(yè)了。

深度學習需要專業(yè)的數(shù)據(jù)科學人才,而這些人才仍供不應求。目前只有屈指可數(shù)的少數(shù)公司能從深度學習中獲益,其他企業(yè)正在迎頭趕上。

5、想使用深度學習——卻不知如何開始

深度學習已經(jīng)成為迄今為止使用人工智能構建解決現(xiàn)實世界問題的系統(tǒng)的有效方法之一。互聯(lián)網(wǎng)時代產(chǎn)生的海量數(shù)據(jù)正越來越多地被應用在深度學習中。正如記者Robin Wigglesworth在《金融時報》中寫到:

“簡單來說,深度學習建立在20世紀90年代神經(jīng)網(wǎng)絡發(fā)展的基礎上,機器使用人造神經(jīng)元矩陣掃描信息,尋找模式并做出決策,很像人腦的運作模式,但速度超快。”

深度學習在需要分類和/或預測的領域非常有用。在商業(yè)、工業(yè)或者研究的任何領域,任何對預測和分類問題感興趣的人都應該學習深度學習。實際上,如果有足夠的歷史數(shù)據(jù)、需要預測或分類的研究案例,便可以構建一個深度學習模型進行研究。

要學習一個新的東西,最難的事情就是找到容易理解和部署的例子。找到課題相關的大量技術論文非常容易,但找到入門學習并快速搭建的具體的例子是很難的。本書就是為了解決這個問題。書中有直觀的插圖、實用的例子以及對模型的簡單解釋,這些可以用Python直接搭建和測試。這樣就很容易上手,通過數(shù)據(jù)和Python進行試驗。

運用本書中的想法將改變你的數(shù)據(jù)科學實踐思維。即使僅實踐了本書每章中的一個想法,你也不僅可以使用深度學習完成任務,還將能游刃有余地面對更多數(shù)據(jù)的機會和挑戰(zhàn)。