百度上線(xiàn)深度學(xué)習(xí)可視化工具 Visual DL 訓(xùn)練結(jié)果“訓(xùn)練結(jié)果所見(jiàn)即所得”
1月17日,百度PaddlePaddle & ECharts團(tuán)隊(duì)宣布上線(xiàn)深度學(xué)習(xí)可視化工具Visual DL,該工具可以使得深度學(xué)習(xí)任務(wù)變得生動(dòng)形象,實(shí)現(xiàn)可視分析。百度希望能夠借此為全球更廣泛的用戶(hù)提供更便捷高效的深度學(xué)習(xí)工具。
目前,大部分深度學(xué)習(xí)框架都提供了Python的用戶(hù)界面,其訓(xùn)練過(guò)程的狀態(tài)通常以日記的形式被記錄下來(lái),這種方式可以觀(guān)察短期內(nèi)的訓(xùn)練狀態(tài),但是難以從全局把握訓(xùn)練過(guò)程中的變化趨勢(shì),導(dǎo)致提取信息時(shí)受到較多限制。反觀(guān)Visual DL,它改變了傳統(tǒng)的日記式記錄形態(tài),便于用戶(hù)將訓(xùn)練過(guò)程可視化,幫助更好地把控全局。
在具體使用上,Visual DL深度學(xué)習(xí)可視化工具功能全面。首先,它的“Scalar”功能支持Scalar打點(diǎn)數(shù)據(jù)展示,可將訓(xùn)練信息以折線(xiàn)圖的形式展現(xiàn)出來(lái),方便觀(guān)察整體趨勢(shì),還能在同一個(gè)可視化視圖中呈現(xiàn)多條折線(xiàn),方便用戶(hù)對(duì)比分析。其次,Visual
DL的“Image”功能支持圖片展示,用戶(hù)可輕松查看數(shù)據(jù)樣本的質(zhì)量,也可以方便地查看訓(xùn)練的中間結(jié)果,例如卷積層的輸出或者GAN生成的圖片。同時(shí),Visual DL還具有Histogram參數(shù)分布展示功能,方便用戶(hù)查看參數(shù)矩陣中數(shù)值的分布曲線(xiàn),并隨時(shí)觀(guān)察參數(shù)數(shù)值分布的變化趨勢(shì)。***,Visual DL中的“Graph”還能幫助用戶(hù)查看深度神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)。據(jù)悉,Graph支持直接對(duì)ONNX的模型進(jìn)行預(yù)覽,由于MXNet,Caffe2,Pytorch和CNTK都支持轉(zhuǎn)成ONNX的模型,這意味著Graph可間接支持不同框架的模型可視化功能,讓用戶(hù)便于排查網(wǎng)絡(luò)配置的錯(cuò)誤,幫助理解網(wǎng)絡(luò)結(jié)構(gòu)。詳情可參照如下可視化案例:
下圖是對(duì)參數(shù)分布和張量進(jìn)行可視化:
下圖是對(duì)張量和中間生成的圖像進(jìn)行可視化:
下圖是展示訓(xùn)練過(guò)程中錯(cuò)誤的出現(xiàn)趨勢(shì):
Visual DL除了功能全面以外,還具有易集成、易使用等優(yōu)勢(shì)。它可提供獨(dú)立的Python SDK,若用戶(hù)的訓(xùn)練任務(wù)基于Python,可直接安裝Visual DL的WHL軟件包,隨后輸入到項(xiàng)目中進(jìn)行使用,使用方式簡(jiǎn)單便捷。為了滿(mǎn)足用戶(hù)的不同操作需求,用戶(hù)在其Python代碼中可加入Visual DL日志記錄邏輯,啟動(dòng)Visual DL后即可通過(guò)瀏覽器查看日志的可視化結(jié)果。此外,Visual DL在底層使用C++編寫(xiě),提供原生的C++ SDK,用戶(hù)可將其深入集成到自己C++的項(xiàng)目,以實(shí)現(xiàn)更高效的性能。
值得一提的是,Visual DL現(xiàn)已完全開(kāi)放,同時(shí)支持大部分的深度學(xué)習(xí)框架。其SDK層面可輕松集成到Python或者C++項(xiàng)目中,此外,
Graph通過(guò)ONNX還可直接支持PaddlePaddle、TensorFlow、MxNet、PyTorch和Caffe2等流行的深度學(xué)習(xí)框架。對(duì)于開(kāi)發(fā)者來(lái)說(shuō),Visual DL可以將深度學(xué)習(xí)任務(wù)的訓(xùn)練過(guò)程可視化,減少用戶(hù)的觀(guān)察比對(duì)時(shí)間,讓整個(gè)訓(xùn)練過(guò)程更高效。
近年來(lái),深度學(xué)習(xí)受到各領(lǐng)域的大力追捧,在國(guó)家層面上,深度學(xué)習(xí)框架成為了國(guó)家人工智能戰(zhàn)略的重要組成部分。據(jù)悉,百度也在深度學(xué)習(xí)領(lǐng)域深耕多年,2016年,百度開(kāi)源PaddlePaddle分布式深度學(xué)習(xí)平臺(tái),并在開(kāi)源社區(qū)Github及百度大腦平臺(tái)開(kāi)放,供廣大開(kāi)發(fā)者下載使用。百度PaddlePaddle具有易學(xué)易用、高效靈活等特征,同時(shí)因更適應(yīng)中國(guó)國(guó)情而深受中國(guó)開(kāi)發(fā)者喜愛(ài)。目前,百度PaddlePaddle已在社區(qū)活躍度、易學(xué)易用及工業(yè)應(yīng)用三方面取得了突破性進(jìn)展。
不僅如此,百度為了培養(yǎng)更多深度學(xué)習(xí)人才,不僅組建了PaddlePaddle訓(xùn)練營(yíng),為開(kāi)發(fā)者和初創(chuàng)企業(yè)提供大量資源,幫助他們的產(chǎn)品行業(yè)內(nèi)部快速落地,同時(shí),還發(fā)起了國(guó)內(nèi)***深度學(xué)習(xí)教育聯(lián)盟,全方位支持深度學(xué)習(xí)人才培養(yǎng)。
百度相關(guān)負(fù)責(zé)人表示,人工智能作為國(guó)家戰(zhàn)略的一部分,已成為各大行業(yè)巨頭的必爭(zhēng)之地。深度學(xué)習(xí)作為其中最熱門(mén)的研究領(lǐng)域,關(guān)系到中國(guó)人工智能行業(yè)整體的發(fā)展后勁。百度作為中國(guó)領(lǐng)先的人工智能公司,將繼續(xù)致力于為開(kāi)發(fā)者提供最適合中國(guó)國(guó)情的開(kāi)源深度學(xué)習(xí)平臺(tái),及各種深度學(xué)習(xí)工具等,***程度地滿(mǎn)足中國(guó)開(kāi)發(fā)者的需要,讓深度學(xué)習(xí)為各行各業(yè)帶來(lái)巨大變革。