蘑菇街黃文波:搭載移動端深度學習模型“蘑菇街”了解你
原創(chuàng)【51CTO.com原創(chuàng)稿件】2017年12月1日-2日,由51CTO主辦的WOTD全球軟件開發(fā)技術(shù)峰會將在深圳中州萬豪酒店隆重舉行。本次峰會以軟件開發(fā)為主題,數(shù)十位專家級嘉賓將帶來多場精彩的技術(shù)內(nèi)容分享。屆時,黃文波先生將在軟件性能優(yōu)化專場與來賓分享"深度學習在移動端的優(yōu)化實踐"主題演講,為大家詳細闡述深度學習模型的設(shè)計和優(yōu)化策略等問題。51CTO誠邀您蒞臨大會,與我們共享技術(shù)帶來的喜悅。
深度學習是機器學習中一種基于對數(shù)據(jù)進行表征學習的方法,深度學習的好處是用非監(jiān)督式或半監(jiān)督式的特征學習、分層特征提取高效算法來替代手工獲取特征。深度學習在聲頻、圖像、視頻處理上已經(jīng)取得了令人印象深刻的進步,但是它通常需要功能強大的電腦才可以進行,如果它出現(xiàn)在我們的手機上呢?日前,51CTO有幸專訪到蘑菇街-圖像算法工程師黃文波先生,聆聽他對于深度學習模型在移動端的設(shè)計和利用方面的見解。
移動端的深度學習從平臺角度來說,分為iOs和安卓,iOs發(fā)布的時候就已經(jīng)提出比較基礎(chǔ)的深度學習的功能,并且已經(jīng)達到了可用的階段。安卓這方面的情況要稍微復雜一些,因為安卓涉及到的技術(shù)比較多,每個廠家采用的CPU存在一些差距,無法統(tǒng)一起來。蘑菇街技術(shù)團隊目前針對iOs和安卓框架都進行了一些典型的嘗試。
黃文波
【黃文波,圖像算法工程師,主要從事深度學習相關(guān)工作,包括模型加速壓縮、GAN、人臉相關(guān)應用,尤其對深度學習在移動端的本地優(yōu)化運行有較深入的研究?!?/span>
在深度學習模型方面,蘑菇街做了很多工作。想要應用在手機上面,除了保證性能,模型的大小也是非常重要的限制性因素。手機的空間有限,不可能一個機器里面搭載一個只有幾百兆的模型,所以模型壓縮這一塊的工作非常重要,目前具體的應用是在內(nèi)網(wǎng)里面,類似于上線分析的功能現(xiàn)在已經(jīng)在做,比如圖像分析,包括對身體的各個部分,可以從像素級分析出來,蘑菇街已經(jīng)覆蓋和實現(xiàn)了。之前還做過一些識別服裝款式的功能,比如說拍到你的衣服,我們可以告訴你的終端機器,用機器自動識別它是什么T恤。
前幾年的模型發(fā)展是往深度做,當時他們把模型做的很深,有上百層。這樣做深的話,有一部分模型會非常大,放在一個手機上的話,就要把這個模型塞到一個APP里面,一個APP里面本來就有自己的空間,還要搭載這個模型,這是不太現(xiàn)實的。另外手機的性能也有限,手機端的內(nèi)存肯定跟服務器沒辦法比,500兆的模型放進去,要耽誤非常大的內(nèi)存空間,這是內(nèi)存。另外手機上的CPU性能也沒有服務器好,所以在手機上進行深度學習的時候,你的計算機也要有很高的指標。另外功耗方面,雖然手機現(xiàn)在的功耗是降低的,如果模型功耗很大的話,耗電量也會受到的影響。
提到模型的壓縮的標準化,其實就是在保證精度的情況下,讓你的模型盡量的變小,模型變小就意味著參數(shù)變少,意味著計算量變小。最基本的條件就是你要保證精度不能下降太多,下降10%到20%是可以接受的。另外的壓縮標準就是空間,想要把模型壓縮到足夠小,能夠在手機上用才行。比如說幾百兆的模型肯定是不適合的。比如我們現(xiàn)在可以達到7兆或者10兆,這樣就可以放在手機里面,放在一個APP里面了。
另外一種思路就是去年開始比較多的,從網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計上讓它變的非常非常小?,F(xiàn)在也是很多手機上都在用這個模式。它用的深度學習模型從設(shè)計開始就特別小,在模型的場景里面就不需要再壓縮了。
蘑菇街是時尚和電商結(jié)合起來的服務運營商。通過在移動端搭載深度學習模型,我們想要實現(xiàn)智能化的時尚推薦服務,讓手機端的蘑菇街"更了解你"。
例如在本地分析用戶相冊里面的穿衣風格,我們會進行本地分析,不需要用戶上傳到服務器,我們在本地分析用戶相冊里面照片的風格,分析得出你的穿衣喜好,在APP里為用戶做更精準的推薦。甚至除了分析相冊,也可以直接選中一張圖片,比如某一個時尚達人,或者某一個模特,根據(jù)他們的穿衣風格,在服務器上面向用戶推薦跟這個穿衣風格匹配的衣服,或者是褲子、帽子、包包之類。通過深度學習模型在移動端的應用,我們力求讓蘑菇街成為用戶最貼心的私人時尚顧問,蘑菇街除了有技術(shù)人才,還有很多時尚專家,各部門聯(lián)手為用戶的穿衣打扮提供更加智能化的服務。
使用優(yōu)惠碼[2017WOTDSZ],和我一起去WOTD全球軟件開發(fā)技術(shù)峰會。8折優(yōu)惠,僅剩48小時!
【51CTO原創(chuàng)稿件,合作站點轉(zhuǎn)載請注明原文作者和出處為51CTO.com】