如今，有兩種可能的深度學(xué)習(xí)技術(shù)部署：直接在設(shè)備上在云端和邊緣。

[[356707]]

由于對(duì)處理能力和內(nèi)存消耗的廣泛需求以及AI模型的規(guī)模，這些部署中的大多數(shù)依賴于云。盡管云部署使AI可以從高性能計(jì)算系統(tǒng)的功能中受益，但挑戰(zhàn)依然存在。需要將數(shù)據(jù)從設(shè)備來(lái)回發(fā)送到云以進(jìn)行處理會(huì)引起隱私問(wèn)題，并且由于延遲，帶寬和連接性而存在限制。

這促使業(yè)界專注于邊緣AI的開(kāi)發(fā)，這是我在上一篇文章中談到的主題。這些工作主要圍繞引入用于訓(xùn)練AI模型的新方法進(jìn)行，這些方法可以減少占用空間，因此可以將這些模型直接部署在邊緣設(shè)備上。

邊緣AI將通過(guò)使智能設(shè)備實(shí)時(shí)做出真正自主的決策來(lái)解決深度云的不足，從而促進(jìn)深度學(xué)習(xí)。具體而言，這將消除了將所有數(shù)據(jù)連續(xù)發(fā)送到云或從云連續(xù)發(fā)送的需要，從而改善了隱私，帶寬和延遲限制。此外，新興的邊緣AI部署方法極大地提高了速度，功耗和內(nèi)存消耗，從而可以降低成本并限制對(duì)環(huán)境的影響。

一個(gè)人的利益不能被另一個(gè)人完全取代;因此，最具影響力的現(xiàn)實(shí)世界AI部署將是采用混合方法的部署：在云中和邊緣。但是混合方法是什么樣的呢?

混合部署的免費(fèi)工作流可獲得更好的結(jié)果

第一步是通過(guò)確定必須實(shí)時(shí)在邊緣進(jìn)行決策的用例，并通過(guò)可在云中進(jìn)行處理以進(jìn)行長(zhǎng)期分析和改進(jìn)的方案，來(lái)淘汰可最大化效率和可擴(kuò)展性的工作流程。

如果您在智能邊緣設(shè)備上部署深度學(xué)習(xí)，那么在需要實(shí)時(shí)決策的情況下，例如自動(dòng)駕駛汽車(chē)，農(nóng)業(yè)無(wú)人機(jī)和系統(tǒng)，攝像機(jī)，移動(dòng)設(shè)備等。同時(shí)，系統(tǒng)可以將數(shù)據(jù)上傳到云中以進(jìn)行存儲(chǔ)以及進(jìn)一步處理和分析，而這些處理和分析可以由功能更強(qiáng)大的引擎執(zhí)行。這將確保該系統(tǒng)可以實(shí)現(xiàn)大功率計(jì)算的優(yōu)勢(shì)，并允許將云中的數(shù)據(jù)與其他系統(tǒng)中的數(shù)據(jù)進(jìn)行組合。

利用這些組合數(shù)據(jù)，可以對(duì)模型進(jìn)行重新訓(xùn)練以進(jìn)行持續(xù)改進(jìn)。一旦在云中進(jìn)行了再培訓(xùn)，就可以在邊緣重新部署新模型。

與采用單一方法相比，將云AI和邊緣部署的優(yōu)勢(shì)整合在一起更強(qiáng)大。具體來(lái)說(shuō)，云AI的處理能力和高性能可以補(bǔ)充邊緣AI的效率，速度和自主性。

混合方法在行動(dòng)

人工智能在自動(dòng)駕駛汽車(chē)中的應(yīng)用是一個(gè)說(shuō)明補(bǔ)充方法好處的特定用例。

在此用例中，至關(guān)重要的是，AI模型必須在邊緣，直接在設(shè)備和車(chē)輛上運(yùn)行，以確保汽車(chē)可以安全行駛。如果汽車(chē)在將數(shù)據(jù)發(fā)送到云端并進(jìn)行處理之前無(wú)法采取行動(dòng)，那么它將無(wú)法做出反應(yīng)并迅速做出決策以確保安全。另外，無(wú)法保證車(chē)輛將保持連續(xù)的互聯(lián)網(wǎng)連接。

但是，汽車(chē)制造商還可以從捕獲數(shù)據(jù)中受益，而不僅僅是實(shí)時(shí)決策所必需的。將收集的數(shù)據(jù)發(fā)送到云進(jìn)行處理是持續(xù)改進(jìn)和重新訓(xùn)練模型的關(guān)鍵。這不僅可以徹底處理設(shè)備的數(shù)據(jù)，而且還可以將深度學(xué)習(xí)的見(jiàn)解與從其他邊緣設(shè)備收集的數(shù)據(jù)相結(jié)合，以進(jìn)行更大的輸入和理解?；诖艘?jiàn)解，可以不斷改進(jìn)算法以發(fā)展自動(dòng)駕駛汽車(chē)系統(tǒng)。

下一步是什么?邊緣AI和云AI的演變

隨著越來(lái)越多的組織在云端或邊緣利用AI的力量，我們將看到更多能夠提供現(xiàn)實(shí)價(jià)值的深度學(xué)習(xí)應(yīng)用程序。

5G的興起將繼續(xù)推動(dòng)深度學(xué)習(xí)的發(fā)展。隨著5G變得越來(lái)越普遍，它將增強(qiáng)超級(jí)計(jì)算的可訪問(wèn)性。具體來(lái)說(shuō)，5G將使從邊緣到云的數(shù)據(jù)共享變得更加無(wú)縫和高效，從而促進(jìn)更高效的數(shù)據(jù)處理。

但是，即使使用5G，仍然需要在邊緣進(jìn)行實(shí)時(shí)決策。云仍將無(wú)法即時(shí)滿足邊緣應(yīng)用程序?qū)?shù)據(jù)處理的需求。因此，在計(jì)劃部署模型時(shí)，邊緣AI必須繼續(xù)成為AI公司關(guān)注的焦點(diǎn)。對(duì)于云和邊緣部署采用互補(bǔ)方法的企業(yè)，無(wú)論是在其模型的短期處理能力還是在有效存儲(chǔ)，處理和改進(jìn)模型的長(zhǎng)期能力上，都將獲得最大的成功。