TIC 2018熱議人工智能 AI進入應(yīng)用落地期
原創(chuàng)【51CTO.com原創(chuàng)稿件】云計算、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)及人工智能是數(shù)字新技術(shù)的核心,在新一輪數(shù)字技術(shù)革命到來之際,誰能率先掌握這些熱門技術(shù),無疑將在數(shù)字經(jīng)濟發(fā)展的長河中擁有更多話語權(quán)。這五大數(shù)字技術(shù)中,區(qū)塊鏈和人工智能相較于其他數(shù)字技術(shù),還處在初級階段,如何借助云計算和大數(shù)據(jù)等技術(shù),將區(qū)塊鏈及人工智能迅速落地,成為各界關(guān)注的焦點。
5月15日,由國內(nèi)領(lǐng)先的中立云服務(wù)商UCloud主辦的Think in Cloud 2018在北京富力萬麗酒店隆重舉行。Think in Cloud(以下簡稱“TIC”)已連續(xù)舉辦四屆,是中國云計算行業(yè)的***盛會。除UCloud高層和技術(shù)專家外,還邀請了眾多互聯(lián)網(wǎng)及傳統(tǒng)領(lǐng)域創(chuàng)新公司的CEO、CTO、行業(yè)和技術(shù)專家以及諸多云生態(tài)體系中的合作伙伴到場分享,傳達最前沿的技術(shù)熱點與行業(yè)洞察,吸引了云計算、大數(shù)據(jù)、人工智能、區(qū)塊鏈、物聯(lián)網(wǎng)等諸多行業(yè)領(lǐng)域的投資、管理、技術(shù)、運維等五千人余人參會。
TIC 2018人工智能的應(yīng)用實踐專場
近兩年,人工智能產(chǎn)業(yè)迅速興起,AI技術(shù)逐漸被運用于各行各業(yè)。無論是初涉人工智能應(yīng)用的傳統(tǒng)互聯(lián)網(wǎng)企業(yè),抑或是人工智能領(lǐng)域的創(chuàng)業(yè)公司,如何快速、高效地落地AI應(yīng)用都是巨大的挑戰(zhàn)。在5月15日下午的人工智能的應(yīng)用實踐專場上,來自UCloud、馭勢科技、第四范式、褚時科技的專家,以及企業(yè)人士、媒體記者齊聚一堂,聚焦人工智能的實際應(yīng)用與實踐,探討如何利用云計算技術(shù)助推機器學習、深度學習、視覺計算等AI技術(shù)和應(yīng)用迅速落地。
公有云助力AI應(yīng)用快速落地
究竟什么場景需要AI賦能?如何快速、低投入地驗證AI技術(shù)?如何快速展開AI應(yīng)用業(yè)務(wù)?如何高效實現(xiàn)AI應(yīng)用迭代?UCloud AI平臺技術(shù)專家宋翔在開場演講中為在場觀眾一一解答。接觸AI的人都知道,AI有大量的框架、各種各樣的技術(shù)算法和實現(xiàn)方式,實施過程中會用到各種底層的資源,從AI技術(shù)驗證、開展AI應(yīng)用業(yè)務(wù),到AI應(yīng)用迭代整個過程將會遇到各種各樣的問題。
UCloud AI平臺技術(shù)專家 宋翔
宋翔總結(jié)AI的挑戰(zhàn)來自三大方面:一是基礎(chǔ)環(huán)境,在AI入門階段基礎(chǔ)環(huán)境是非常大的挑戰(zhàn),涉及AI框架、算法庫、GPU技術(shù)庫、存儲等各種設(shè)備,各類交叉選擇之后的環(huán)境更加復雜,如何選擇適合自己的研發(fā)環(huán)境是一大挑戰(zhàn);二是AI系統(tǒng)建設(shè),這個過程中需要考慮算法兼容性、平臺擴展性、分布式化、縱向擴展、高可用以及容災能力等問題;三是投入產(chǎn)出問題,如何用較少的投入得到較高的回報?如何通過調(diào)研精確需求,控制研發(fā)成本,如何降低資源成本和運營成本,讓研發(fā)人員更關(guān)注算法,都是AI所面臨的挑戰(zhàn)。
如何應(yīng)對這些挑戰(zhàn)呢?UCloud認為解決這些問題的核心方法就是實現(xiàn)平臺化,包括環(huán)境分離、分布式化、可擴展性和資源共享四個方面。環(huán)境分離方面有兩個主要方向,一是通過容器的封裝把軟件和運行環(huán)境隔離,把存儲和計算隔離,讓更多的存儲資源可以接入到AI環(huán)境中去;二是數(shù)據(jù)分離,因為對AI來說,訓練過程中的數(shù)據(jù)非常重要,只需要提供本地存儲的接口即可訪問各種數(shù)據(jù)層,實現(xiàn)良好的數(shù)據(jù)訪問。
AI訓練平臺
同時,平臺化能做到良好的資源共享,例如通過UCloud的AI訓練平臺和在線服務(wù)平臺,用戶想做AI訓練,只需要把任務(wù)提交到訓練平臺,就可以在平臺上自動的完成任務(wù),而無需要關(guān)心這個任務(wù)是否失敗、到底在哪臺機器上跑等一系列問題,可以大大簡化AI算法人員使用平臺的復雜度;對于算法人員或業(yè)務(wù)人員來說,有了在線服務(wù)平臺,當他實現(xiàn)算法之后,可以用這個平臺快速地部署自己分布式的在線任務(wù),而無需自己搭建一個分布式的環(huán)境或服務(wù)。
AI在線推理平臺
宋翔提到,有了這些平臺和技術(shù),研發(fā)人員在做橫向擴展和縱向擴展時變得更加簡單,分布式平臺在資源使用率提高的同時,也不需要太多的成本去管理這些資源。***,宋翔還列舉了三個UAI-Inference以及UAI-Train在互聯(lián)網(wǎng)社交、廣告及AI培訓領(lǐng)域的典型案例,分享UCloud在人工智能技術(shù)領(lǐng)域的實踐經(jīng)驗。
嵌入式設(shè)備上的實時深度學習方法實踐
馭勢科技人工智能技術(shù)負責人潘爭分享了馭勢科技在嵌入式設(shè)備上的實時深度學習方法實踐,以及UCloud GPU服務(wù)器在自動駕駛領(lǐng)域的應(yīng)用情況。視覺感知具有信息更豐富、視野更寬闊、基建更配合、硬件更便宜幾大特點。潘爭介紹到,從2010年開始,每年一屆的ImageNet計算機視覺挑戰(zhàn)賽通過不停的調(diào)優(yōu)深度學習網(wǎng)絡(luò),2017年已經(jīng)將識別的錯誤率降到2.5%以下,可見視覺識別的進步之大。
馭勢科技人工智能技術(shù)負責人 潘爭
視覺感知在做模版時可以不計成本,但是當技術(shù)落地成為產(chǎn)品時卻需要進行諸多考量,如在自動駕駛領(lǐng)域要做到低成本、低功耗、合車規(guī)、實時性以及精度讓用戶滿意等等。其中,合車規(guī)是自動駕駛領(lǐng)域的特別需求,汽車的壽命有十余年,汽車里的所有硬件都需要滿足安全標準,電子器件從零下四十度到零上七八十度都要正常運行,車規(guī)級的要求十分嚴苛。
PVANet+fasterRCNN物體檢測
馭勢科技希望用嵌入式的GPU平臺去完成視覺感知所需要的計算,達到像激光雷達一樣甚至更低的成本。要做到這一點,就需要做諸多的網(wǎng)絡(luò)壓縮優(yōu)化工作,同時在嵌入式的GPU上做運算,精度也要足夠高,這就引出了在效率和精度之間如何取舍,達到一個比較平衡的網(wǎng)絡(luò)選擇的話題。潘爭介紹,以人車檢測性能為例,完成這樣的檢測任務(wù)已經(jīng)不再需要成百上千層的網(wǎng)絡(luò),在相對密集的場景中,馭勢科技可以把所有的人、車檢測出來,更好的輔助自動駕駛。***,潘爭還向參會嘉賓分享了嵌入式GPU+CPU加速以及低成本車規(guī)級的FPGA加速技術(shù)在自動駕駛領(lǐng)域的應(yīng)用情況,得到了與會嘉賓的一致好評。
基于云計算構(gòu)建機器學習系統(tǒng)
UCloud實驗室負責人兼高級研發(fā)總監(jiān)葉理燈在會上介紹了云計算的發(fā)展歷程,Serverless產(chǎn)品及架構(gòu),如何構(gòu)建機器學習在線推測系統(tǒng),以及其在頭像識別、OCR和AI應(yīng)用市場領(lǐng)域的實際應(yīng)用案例。他提到,Serverless具有免運維,可彈性擴展,高可用,按需付費等特點,對開發(fā)者來說,構(gòu)建一個APP無需考慮架構(gòu),直接用Serverless即可,這是一項巨大的進步。
UCloud 實驗室負責人兼高級研發(fā)總監(jiān) 葉理燈
葉理燈表示,構(gòu)建AI機器學習系統(tǒng)需要進行Build、Train和Inference三個步驟。選定算法及參數(shù),進行訓練之后的模型變成在線服務(wù)就是Inference的過程。在線推測系統(tǒng)包含底層計算平臺,APP Engine層,以及通過SDK進行數(shù)據(jù)流的控制。
在線分類系統(tǒng)
UCloud的UAI-Inference提供海量計算節(jié)點,自動負載均衡,動態(tài)擴縮容,適用于圖像識別、自然語言處理等多個AI領(lǐng)域。葉理燈分享了來自社交用戶的頭像識別案例,可自動識別用戶是否上傳頭像、頭像是人還是風景,從而根據(jù)不同信息推薦不同的內(nèi)容。
頭像識別
用戶自己搭建這樣的系統(tǒng)會有很多負擔,既要考慮高可用,也不知道具體需要申請多少虛擬機來完成這個任務(wù)。有了在線推測系統(tǒng),只需要將每次訓練的模型推給UCloud,用戶就可以很快地構(gòu)建自己的系統(tǒng),而且無需運維。此外,葉理燈還還介紹了UAI-Inference在OCR、AI應(yīng)用市場等實際應(yīng)用場景的落地情況,讓參會聽眾受益頗多。
AI技術(shù)在客服領(lǐng)域的應(yīng)用實踐
第四范式智能客服負責人、資深數(shù)據(jù)科學家刑少敏分享了《AI技術(shù)在客服領(lǐng)域的應(yīng)用實踐》。第四范式是國際領(lǐng)先的人工智能技術(shù)與服務(wù)提供商,由其開創(chuàng)的“遷移學習”被業(yè)界認為是“下一代的人工智能技術(shù)”。 當前,隨著社會經(jīng)濟的發(fā)展,客服的成本逐漸提高,人工客服無法24小時在線,為智能客服提供了廣闊的市場。
第四范式智能客服負責人、資深數(shù)據(jù)科學家 刑少敏
智能客服的常見功能包括單輪問答、多輪對話和人機協(xié)作三類。實際上,智能客服只用來解決高頻簡單的問題,疑難問題則是交給人工客服完成,因此大部分場景下仍然需要人機協(xié)作,也就是機器人+人工進行回答的模式,只有少部分由機器人直接推薦答案。
智能客服技術(shù)難點
智能客服有其基本的工作流程,需要將問題進行自然語言處理,經(jīng)過意圖識別,以及自定義的知識庫和知識圖譜,當用戶問題提交時,通過模板或機器翻譯,轉(zhuǎn)換成知識圖譜查詢語言,從知識圖譜工具里查出結(jié)果,進行檔案的包裝,返回給用戶,就是一個完整的問答過程。這是以人為主,機器為輔的方式。
第四范式智能客服
第四范式的智能客服能夠?qū)崿F(xiàn)以機器人為主,以人為輔,也就是無縫的人機協(xié)作。在前期,人話占問答的一大部分,人工回答以后,機器進行學習,隨著機器學習的知識越來越多,知識庫越來越豐富,機器能回答的會話也將成倍數(shù)增長,大大節(jié)約了用戶的客服成本。
AI技術(shù)在教育領(lǐng)域的應(yīng)用
“近兩年培訓機構(gòu)有一些來自家長的需求,他們希望有一個能夠陪小孩對弈的系統(tǒng),且系統(tǒng)的難度可控,AI技術(shù)如何在教育領(lǐng)域應(yīng)用,其實需要一些小技巧。” 北京褚時科技CEO李曙光提到。在自動口語評測領(lǐng)域,基于GOP的評測技術(shù),例如英語流利說,是通過語音模型分數(shù)對比發(fā)現(xiàn)有問題的讀音,這項技術(shù)主要用于跟讀環(huán)節(jié)。還有Freetalk口語評測技術(shù),類似托福、雅思的開放式題目,可以運用這項技術(shù)進行口語考試的自動打分和批改,分析用戶的發(fā)言、語音語調(diào)、語法和流利度等等。目前機器在打分上已經(jīng)可以取代人工,大幅地降低了教師的重復勞動。
北京褚時科技CEO 李曙光
人工智能對于培訓機構(gòu)而言,不單單是節(jié)省成本的問題,由于大部分學生缺乏練習環(huán)節(jié),因此AI技術(shù)還能幫助學生提高學習成績。自動作文評測技術(shù)讓老師更愿意為學生布置作文作業(yè),學生通過這項技術(shù),一篇作文可以不斷練習40至50次,不僅降低了老師的工作強度,也提高了學生的學習成績,一舉兩得。自動作文評測基于海量的人工批改數(shù)據(jù)研發(fā),實現(xiàn)了語法錯誤檢查、自然語言處理分析特征提取以及自動打分引擎,打分緯度除了語法,還有用詞、文章脈絡(luò)、句子之間連貫程度等更加復雜的方面。
手寫識別
褚時科技在手寫識別方面采用UCloud云服務(wù)器,進行訓練和部署,主要用于學生手寫作文的場景,涉及到文本的預處理、切割算法以及解碼等多個環(huán)節(jié)。
無論是炫酷的無人駕駛,人機協(xié)作的智能客服,還是自動評測及手寫識別,這些AI應(yīng)用的背后都離不開云計算提供的優(yōu)質(zhì)數(shù)據(jù)分析平臺以及穩(wěn)定的技術(shù)支撐。當前,人工智能的落地場景越來越豐富,人工智能能夠如此快速的落地,離不開云計算的支持,人工智能融入“云”端已是大勢所趨。相信在明年的TIC大會上,能看到更多來自不同行業(yè)的AI實踐干貨分享,讓我們共同期待吧!
【51CTO原創(chuàng)稿件,合作站點轉(zhuǎn)載請注明原文作者和出處為51CTO.com】