新版TensorFlow又立flag!官方團(tuán)隊(duì)明確「四大支柱」:承諾100%向后兼容,2023年發(fā)布
在TensorFlow和PyTorch之間,你選擇誰(shuí)?
煉丹師們想必都被TF折磨過(guò),靜態(tài)圖、依賴問(wèn)題、莫名其妙的改接口,即便是谷歌發(fā)布了TF 2.0之后依然沒(méi)有解決問(wèn)題。在萬(wàn)般無(wú)奈下轉(zhuǎn)投PyTorch后,世界都變晴了。
「人生苦短,我用PyTorch」
甚至從谷歌開(kāi)始著手宣發(fā)新一代計(jì)算框架JAX來(lái)看,似乎官方都對(duì)TF有點(diǎn)放棄的意思了,TensorFlow距離墳?zāi)怪挥邪氩街b。
趕在TF七歲生日之前,TensorFlow的開(kāi)發(fā)團(tuán)隊(duì)發(fā)布了一個(gè)博客,宣布TensorFlow將會(huì)繼續(xù)開(kāi)發(fā),并且將會(huì)在2023年發(fā)布全新版本,對(duì)接口的臟、亂、差情況進(jìn)行整改,并承諾100%向后兼容!
TensorFlow戰(zhàn)未來(lái)
大約七年前,也就是2015年11月9日,TensorFlow正式開(kāi)源。
也是從那時(shí)起,成千上萬(wàn)的開(kāi)源貢獻(xiàn)者和社區(qū)內(nèi)的谷歌開(kāi)發(fā)專(zhuān)家、社區(qū)組織者、研究人員和全球教育家都投入到TensorFlow的開(kāi)發(fā)上。
七年后的今天,TensorFlow已然是最常用的機(jī)器學(xué)習(xí)平臺(tái),數(shù)以百萬(wàn)計(jì)的開(kāi)發(fā)人員都在用。
TF是gitHub上排名第三的軟件資源庫(kù)(僅次于 Vue 和 React) ,也是 PyPI 上下載次數(shù)最多的機(jī)器學(xué)習(xí)軟件包。
TF還將機(jī)器學(xué)習(xí)帶入了移動(dòng)生態(tài)系統(tǒng): TFLite運(yùn)行在40億臺(tái)設(shè)備。
TensorFlow 也把機(jī)器學(xué)習(xí)帶到了瀏覽器中: TensorFlow.js的下載次數(shù)為每周17萬(wàn)次。
在谷歌的產(chǎn)品系列中,TensorFlow 幾乎為所有的生產(chǎn)機(jī)器學(xué)習(xí)提供支持,包括搜索、 GMail、 YouTube、地圖、Play、廣告、照片等等。
除了谷歌以外,在Alphabet旗下的其他子公司中,TensorFlow和Keras也為Waymo的自動(dòng)駕駛汽車(chē)提供了機(jī)器智能的基礎(chǔ)。
在更廣泛的行業(yè)中,TensorFlow 為數(shù)千家公司的機(jī)器學(xué)習(xí)系統(tǒng)提供動(dòng)力,其中包括世界上大多數(shù)最大的機(jī)器學(xué)習(xí)用戶——蘋(píng)果、字節(jié)跳動(dòng)、 Netflix、騰訊、 Twitter 等等。
在研究領(lǐng)域,每個(gè)月,Google Scholar都會(huì)收錄超過(guò)3000篇新的科學(xué)文獻(xiàn)中提到TensorFlow或Keras
TF走到今天,其用戶基礎(chǔ)和開(kāi)發(fā)者生態(tài)系統(tǒng)比以往任何時(shí)候都更大,并且還在不斷增長(zhǎng)!
TensorFlow 的發(fā)展不僅是一個(gè)值得慶祝的成就,而且是一個(gè)機(jī)會(huì),可以進(jìn)一步為機(jī)器學(xué)習(xí)社區(qū)提供更多的價(jià)值。
開(kāi)發(fā)團(tuán)隊(duì)的目標(biāo)是提供地球上最好的機(jī)器學(xué)習(xí)平臺(tái),并努力將機(jī)器學(xué)習(xí)從一個(gè)小眾行業(yè)轉(zhuǎn)變?yōu)橄馱eb開(kāi)發(fā)一樣成熟的產(chǎn)業(yè)。
為了實(shí)現(xiàn)這一目標(biāo),開(kāi)發(fā)團(tuán)隊(duì)愿意傾聽(tīng)用戶的需求,預(yù)測(cè)新的行業(yè)趨勢(shì),迭代軟件的接口,并努力使大規(guī)模創(chuàng)新變得越來(lái)越容易。
機(jī)器學(xué)習(xí)正在迅速發(fā)展,TensorFlow 也是如此。
開(kāi)發(fā)團(tuán)隊(duì)已經(jīng)開(kāi)始研究 TensorFlow 的下一個(gè)迭代版本,將支持下一個(gè)十年的機(jī)器學(xué)習(xí)開(kāi)發(fā),一起戰(zhàn)未來(lái)!
TensorFlow的四大支柱
快速且可擴(kuò)展:XLA 編譯、分布式計(jì)算、性能優(yōu)化
TF將專(zhuān)注于 XLA 的編譯,在TPU性能優(yōu)勢(shì)的基礎(chǔ)上,使大多數(shù)模型的訓(xùn)練和推理工作流程在 GPU 和 CPU 上更快。開(kāi)發(fā)團(tuán)隊(duì)希望XLA成為深度學(xué)習(xí)編譯器的行業(yè)標(biāo)準(zhǔn),并且作為 OpenXLA 計(jì)劃的一部分,目前已開(kāi)源。
同時(shí)團(tuán)隊(duì)也開(kāi)始研究可用于大規(guī)模模型并行的新接口DTensor,可能會(huì)開(kāi)啟超大型模型訓(xùn)練和部署的未來(lái)。用戶開(kāi)發(fā)大模型時(shí),即便同時(shí)使用多個(gè)客戶端,感知上也像在單機(jī)上訓(xùn)練一樣。
DTensor將會(huì)與tf.distribution的接口進(jìn)行統(tǒng)一,支持靈活的模型和數(shù)據(jù)并行。
開(kāi)發(fā)團(tuán)隊(duì)還將進(jìn)一步研究算法性能優(yōu)化技術(shù),如混合精度和降低精度的計(jì)算,可以提供相當(dāng)大的GPU和TPU的速度提升。
應(yīng)用機(jī)器學(xué)習(xí)
為計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理領(lǐng)域提供新工具。
團(tuán)隊(duì)正在研究的應(yīng)用機(jī)器學(xué)習(xí)生態(tài)系統(tǒng),特別是通過(guò) KerasCV 和 KerasNLP 軟件包為應(yīng)用CV和NLP用例提供模塊化和可組合的組件,包括大量最先進(jìn)的預(yù)訓(xùn)練模型。
對(duì)于開(kāi)發(fā)者來(lái)說(shuō),團(tuán)隊(duì)也將為流行的和新興的應(yīng)用機(jī)器學(xué)習(xí)用例添加更多的代碼示例、指南和文檔,最終目標(biāo)是逐步減少機(jī)器學(xué)習(xí)的行業(yè)壁壘,并將其轉(zhuǎn)變?yōu)槊總€(gè)開(kāi)發(fā)人員手中的工具。
更容易部署
開(kāi)發(fā)者將會(huì)容易導(dǎo)出模型,比如導(dǎo)出到移動(dòng)設(shè)備(Android 或 iOS)、邊緣設(shè)備(微控制器)、服務(wù)器后端或JavaScript會(huì)變得更加簡(jiǎn)單。
未來(lái),將模型導(dǎo)出到 TFLite 和 TF.js 并優(yōu)化其推理性能就像調(diào)用mod.export ()一樣簡(jiǎn)單。
同時(shí),團(tuán)隊(duì)也在開(kāi)發(fā)用于本機(jī)服務(wù)端推理的公共TF2 C++接口,可以直接作為C++程序的一部分。
不管你是用JAX和TensorFlow Serving開(kāi)發(fā)的模型,還是使用 TensorFlow Lite 和 TensorFlow.js 開(kāi)發(fā)的移動(dòng)和 Web 模型,都將會(huì)變得更容易部署。
更簡(jiǎn)單
隨著機(jī)器學(xué)習(xí)領(lǐng)域在過(guò)去幾年的擴(kuò)張,TensorFlow的接口也越來(lái)越多,而且并不總是以一致或簡(jiǎn)單易懂的方式呈現(xiàn)。
開(kāi)發(fā)團(tuán)隊(duì)正在積極地整合和簡(jiǎn)化這些 API,比如對(duì)數(shù)字采用 NumPy API 標(biāo)準(zhǔn)等。
模型的調(diào)試也是一個(gè)需要考慮的問(wèn)題,優(yōu)秀的框架不僅僅是它的API接口設(shè)計(jì),也包括調(diào)試體驗(yàn)。
團(tuán)隊(duì)的目標(biāo)是通過(guò)更好的調(diào)試能力,最大限度地縮短開(kāi)發(fā)任何應(yīng)用機(jī)器學(xué)習(xí)系統(tǒng)的解決時(shí)間。
承諾:100%向后兼容
開(kāi)發(fā)團(tuán)隊(duì)希望 TensorFlow 成為機(jī)器學(xué)習(xí)行業(yè)的基石,所以API的穩(wěn)定性也是最重要的特性。
作為一個(gè)依賴 TensorFlow 作為產(chǎn)品一部分的工程師,作為一個(gè) TensorFlow 生態(tài)系統(tǒng)包的構(gòu)建者,你可以升級(jí)到最新的TensorFlow 版本,并立即享受新功能和性能所帶來(lái)的改進(jìn),而無(wú)需擔(dān)心現(xiàn)有的代碼庫(kù)可能會(huì)崩潰。
因此,開(kāi)發(fā)團(tuán)隊(duì)承諾從TensorFlow 2到下一個(gè)版本完全向后兼容性。
TensorFlow 2代碼可以按原樣運(yùn)行,無(wú)需進(jìn)行代碼轉(zhuǎn)換,也不需要進(jìn)行手動(dòng)更改。
團(tuán)隊(duì)計(jì)劃在2023年第二季度發(fā)布 TensorFlow 新功能的預(yù)覽版,并將在今年晚些時(shí)候發(fā)布產(chǎn)品版本。