[[414878]]

我們正在進(jìn)入一個(gè)萬物感知、萬物聯(lián)接、萬物智能的世界——

車間：高速照相機(jī)拍下傳送帶上的零部件，交由機(jī)器進(jìn)行識(shí)別，將有缺陷的零件挑出來；

農(nóng)場：奶牛帶上項(xiàng)圈，通過讀取奶牛的生物特征進(jìn)行數(shù)據(jù)分析，提升產(chǎn)奶效率；

機(jī)場：基于身份識(shí)別系統(tǒng)識(shí)別出旅客身份后，結(jié)合機(jī)場數(shù)據(jù)后臺(tái)為其分配合適的安檢口；

……

人工智能逐步進(jìn)入產(chǎn)業(yè)化階段，AI應(yīng)用場景也趨于多樣化和復(fù)雜化，智能基因在悄然改變著大家原來的工作方式和生活習(xí)慣。但需要正視的是：智能化應(yīng)用需求雖已全面爆發(fā)，AI 技術(shù)在眾多行業(yè)中研發(fā)與應(yīng)用部署的門檻與成本卻一直很高。通過傳統(tǒng)方式定制AI模型往往成本高、周期長、項(xiàng)目效果達(dá)不到預(yù)期。如何把軟硬件結(jié)合在一起實(shí)現(xiàn)機(jī)器智能？定制化場景下，AI開發(fā)的成本如何控制？AI模型的優(yōu)化迭代能否找到更快捷的工具？這都是企業(yè)在推進(jìn)AI落地時(shí)必須直面的挑戰(zhàn)。

日前，以“軟硬一體 智能創(chuàng)新 揭秘智能化硬件AI應(yīng)用的技術(shù)難點(diǎn)與行業(yè)落地”為主題的百度智能云EasyDL零門檻AI開發(fā)平臺(tái)網(wǎng)絡(luò)研討會(huì)在線上順利舉行。來自百度的專家和行業(yè)代表通過主題演講、互動(dòng)問答等環(huán)節(jié)多角度展示了AI生產(chǎn)工具的產(chǎn)業(yè)價(jià)值，以及 EasyDL 平臺(tái)如何支持AI落地，助力企業(yè)降本提效。

零門檻AI開發(fā)平臺(tái)：應(yīng)時(shí)而生的AI生產(chǎn)工具

百度和波士頓咨詢公司的一項(xiàng)聯(lián)合調(diào)研顯示，在各行業(yè)的業(yè)務(wù)場景中，約有86%的行業(yè)需要定制開發(fā)相關(guān)的AI模型以提高業(yè)務(wù)效率。諸如工業(yè)質(zhì)檢、物流自動(dòng)分揀、智慧零售等都是比較典型的場景。然而，眾多企業(yè)在定制開發(fā)AI 能力時(shí)往往面臨著模型訓(xùn)練經(jīng)驗(yàn)缺失、模型適配和部署繁瑣、模型迭代優(yōu)化周期長、人力成本投入較大等痛點(diǎn)。在此背景下，百度推出了EasyDL零門檻AI開發(fā)平臺(tái)。

百度智能云產(chǎn)品經(jīng)理心同首先介紹了EasyDL的概況和功能優(yōu)勢。

這一平臺(tái)主要針對定制化訓(xùn)練的場景，為企業(yè)開發(fā)者提供零算法基礎(chǔ)的高精度AI模型開發(fā)能力。平臺(tái)可以覆蓋圖像、視頻、文本、語音、OCR、結(jié)構(gòu)化數(shù)據(jù)、商品檢測等七大方向的數(shù)據(jù)來源，通過無需寫代碼的交互方式，能夠產(chǎn)出可以部署在公有云、設(shè)備端SDK、軟硬一體和本地服務(wù)器多種不同方式下的靈活的部署包。

可以看到，EasyDL主要適用于以下幾種情況：所要解決的AI問題在市場上沒有標(biāo)準(zhǔn)化的解決方案；企業(yè)內(nèi)部缺少專業(yè)的算法人員；AI模型能力需要集成到實(shí)際的業(yè)務(wù)產(chǎn)線當(dāng)中，對模型的高精度效果要求比較高。

具體來看，EasyDL具有三大功能優(yōu)勢——

其一，全場景。EasyDL支持七大方向十七個(gè)垂類的AI訓(xùn)練任務(wù)；

其二，零門檻。面對數(shù)據(jù)準(zhǔn)備和模型訓(xùn)練兩大環(huán)節(jié)的諸多痛點(diǎn)，EasyDL都能為開發(fā)者提供針對性的功能和訓(xùn)練范式，并且為零基礎(chǔ)算法人員提供了可視化勾選的方式。開發(fā)人員可以根據(jù)實(shí)際行業(yè)應(yīng)用情況去選擇對應(yīng)的超高精度、高精度、高性能等不同的算法來一鍵發(fā)起模型訓(xùn)練任務(wù)，真正做到零門檻上手AI開發(fā)核心環(huán)節(jié)，實(shí)現(xiàn)高精度模型定制；

其三，廣適配。AI模型到硬件適配技術(shù)難度高，而EasyDL可以廣適配多形態(tài)的模型部署服務(wù)，適配15家芯片，4大操作系統(tǒng)，同時(shí)還提供百度自研的軟硬一體的部署方案EdgeBoard，在EdgeBoard上可以達(dá)到推理速度平均提升10倍以上。

心同以零件分揀業(yè)務(wù)場景為例，簡要說明了開發(fā)者使用EasyDL的步驟。這一場景的基本需求是要在生產(chǎn)過程當(dāng)中分揀零件，區(qū)分其是螺絲還是螺母。針對這種情況，開發(fā)者只要5步即可完成：1、選擇任務(wù)類型，即訓(xùn)練1個(gè)物體檢測模型；2、上傳并標(biāo)注數(shù)據(jù)；3、啟動(dòng)一鍵模型訓(xùn)練；4、發(fā)布模型，比如發(fā)布為一個(gè)設(shè)備端的SDK；5、集成到實(shí)際業(yè)務(wù)產(chǎn)線中。心同提到，從EasyDL功能實(shí)現(xiàn)邊界來看，在最快狀態(tài)下15分鐘就可以獲得一個(gè)定制的AI服務(wù)。

AI邊緣部署：模型端側(cè)加速

百度智能云研發(fā)工程師譯文接著圍繞AI開發(fā)與邊緣部署技術(shù)方案進(jìn)行了解析。相關(guān)研究報(bào)告顯示，AI模型在邊緣和本地部署的需求呈現(xiàn)越來越高的趨勢。譯文指出，一個(gè)AI模型的部署方案本質(zhì)上要在精度、性能和成本之間取得平衡，如何取得平衡也是開發(fā)人員所要面臨的挑戰(zhàn)。邊緣部署也不例外。

AI開發(fā)者需要關(guān)注的是，邊緣部署的利弊都很鮮明。優(yōu)點(diǎn)主要在于：網(wǎng)絡(luò)無依賴（或網(wǎng)絡(luò)弱依賴），有助于保護(hù)隱私；不受網(wǎng)絡(luò)時(shí)延的影響，在某些情況下響應(yīng)更快；表現(xiàn)會(huì)更穩(wěn)定；芯片成本往往比云端部署要低。缺點(diǎn)在于：受到條件和功耗的限制，算力相對更差；難以水平擴(kuò)展；各大硬件廠商的技術(shù)標(biāo)準(zhǔn)很難統(tǒng)一，邊緣部署解決方案的可一致性就很低；有的硬件廠商提供的軟件解決方案或配套的工具不是很完善，使得在邊緣端部署的研發(fā)成本會(huì)大大提高。

在百度的AI開發(fā)中臺(tái)中，如果說EasyDL是針對整個(gè)AI開發(fā)全流程的解決方案，那么EasyEdge則是專注于模型部署的工具，其主要目標(biāo)在于：一、使模型對端側(cè)有更好的適配，因此包含了模型轉(zhuǎn)換、模型壓縮以及模型優(yōu)化等內(nèi)容；二、在部署階段提供更好的服務(wù)，讓用戶用起來更簡單，所以包含了芯片適配、性能評估、安全加固等功能。

簡單來說，EasyEdge是百度自研的端計(jì)算模型生成平臺(tái)，能夠?qū)⒃忌疃葘W(xué)習(xí)模型快速生成適配于邊緣節(jié)點(diǎn)和智能終端的端側(cè)模型。將符合要求的原始模型輸入這個(gè)平臺(tái)后，EasyEdge會(huì)做模擬解析，轉(zhuǎn)換、兼容、加速，最后封裝成SDK，進(jìn)而產(chǎn)出一系列的計(jì)算服務(wù)。

譯文簡要說明了EasyEdge對于網(wǎng)絡(luò)和框架的支持情況。

EasyEdge支持多種不同類型深度學(xué)習(xí)模型的部署，圖像分類、檢測、人臉、姿態(tài)、分割、OCR等都在支持范圍之內(nèi)。目前EasyEdge支持的網(wǎng)絡(luò)種類逾50種，包括MobileNet 系列、ResNeXt 系列、DenseNet 系列等。

同時(shí)EasyEdge支持接入多種深度學(xué)習(xí)框架，包括飛槳PaddlePaddle，還有業(yè)內(nèi)比較主流的六種框架，TensorFlow、PyTorch、DarkNet、Caffe、mxent、ONNX等。為了更方便的實(shí)現(xiàn)部署，目前EasyEdge還支持部分深度學(xué)習(xí)框架模型的互轉(zhuǎn)換。

EasyEdge對于端設(shè)備的支持也很廣泛，既支持常見的通用芯片CPU、GPU以及通用ARM設(shè)備，也支持市面上主流的專用芯片，如Intel Movidius系列，海思NNIE等

據(jù)譯文介紹，使用EasyEdge可以減少非常多的開發(fā)部署時(shí)間，模型的推理速度也會(huì)得到極大的提升，號(hào)稱“最快2分鐘即可生成端邊計(jì)算服務(wù)”。

識(shí)別回收飲料瓶：借力EasyDL賦能綠色經(jīng)濟(jì)

目前，EasyDL已在工業(yè)、農(nóng)業(yè)、零售、醫(yī)療、物流等行業(yè)廣泛落地。在本次研討會(huì)上，來自深圳歸谷智能有限公司的軟件總監(jiān)儲(chǔ)盛峰就通過遠(yuǎn)程連線的方式和網(wǎng)友們分享了EasyDL平臺(tái)在識(shí)別應(yīng)用領(lǐng)域的案例。

儲(chǔ)盛峰介紹，這一項(xiàng)目的主要內(nèi)容是飲料瓶的識(shí)別和回收，主要面向香港客戶。出于環(huán)保的考量，目前香港政府已經(jīng)開始計(jì)劃對于飲料瓶生產(chǎn)企業(yè)征循環(huán)再造稅，這個(gè)稅會(huì)通過生產(chǎn)企業(yè)再轉(zhuǎn)嫁給消費(fèi)者。舉例來說，一瓶水從2元變成2.2元~2.3元，多的幾毛錢可以視作押金。用戶喝完水后可以將空瓶投入飲料瓶回收機(jī)，回收機(jī)據(jù)此返回這部分用戶提前支付的押金，以這種方式來形成生產(chǎn)-消費(fèi)的綠色循環(huán)。

綜觀這一過程，要實(shí)現(xiàn)循環(huán)，關(guān)鍵就是飲料瓶回收機(jī)如何能“智能”地識(shí)別一個(gè)完全符合回收標(biāo)準(zhǔn)的瓶子，進(jìn)而把錢回贈(zèng)給投放瓶子的用戶。這一項(xiàng)目的棘手之處也正在于此。

歸谷智能在嘗試使用EasyDL平臺(tái)后發(fā)現(xiàn)，這一平臺(tái)不僅比較容易上手，給出的結(jié)果非常有利于訓(xùn)練和使用，而且不用耗費(fèi)大量的時(shí)間和成本。通過2000張不同形狀的瓶子圖像的訓(xùn)練，已經(jīng)能做到比較符合客戶的需求。目前這一項(xiàng)目已經(jīng)落地近100臺(tái)飲料瓶智能回收機(jī)?？梢?，EasyDL在助力企業(yè)快速獲得AI能力方面的高效與成熟。 

【結(jié)語】EasyDL零門檻AI開發(fā)平臺(tái)不僅降低了AI從應(yīng)用到落地的門檻和成本，也為相關(guān)企業(yè)提供了智能化業(yè)務(wù)轉(zhuǎn)型的新方向。將開發(fā)者從“重復(fù)造輪子”的泥沼中解放出來，讓其更加聚焦于業(yè)務(wù)與創(chuàng)新，加速AI從算法到落地的應(yīng)用進(jìn)程。EasyDL的未來，我們拭目以待。

詳情查看：https://ai.baidu.com/easydl/