我們都已經(jīng)看到了有關(guān)即將有多少設(shè)備連接到物聯(lián)網(wǎng)(IoT)的預(yù)測(cè)。例如，IDC預(yù)測(cè)到2025年這一數(shù)字將超過(guò)410億。關(guān)于將釋放的機(jī)會(huì)使我們的房屋，工作，娛樂(lè)和旅行更加有效和可持續(xù)的報(bào)道很多。

[[348765]]

但是，支撐這些進(jìn)步的數(shù)據(jù)爆炸正使那些創(chuàng)建產(chǎn)品，服務(wù)和支持基礎(chǔ)架構(gòu)的人頭痛。許多早期的物聯(lián)網(wǎng)設(shè)備都依靠云來(lái)處理其收集的數(shù)據(jù)。該模型的部分驅(qū)動(dòng)力是云中有效的無(wú)限計(jì)算能力，再加上許多物聯(lián)網(wǎng)設(shè)備的受限板載處理能力。

數(shù)據(jù)上傳到云端的局限性

但是，向云發(fā)送數(shù)據(jù)和從云發(fā)送數(shù)據(jù)都有其缺點(diǎn)。

首先，傳輸數(shù)據(jù)會(huì)消耗能量和帶寬。更多數(shù)據(jù)意味著您需要更多昂貴且有限的網(wǎng)絡(luò)資源。

其次，將數(shù)據(jù)發(fā)送到云會(huì)引入延遲，這會(huì)限制某些應(yīng)用程序的有效性。

第三，外部信息帶來(lái)了隱私和安全風(fēng)險(xiǎn)。例如，由智能家居設(shè)備收集的數(shù)據(jù)將揭示有關(guān)您在家中和外出時(shí)的大量信息。如果此信息發(fā)送到云，您可以確定它已安全完成嗎?它以什么形式存儲(chǔ)在哪里?誰(shuí)有權(quán)使用它?

引入邊緣智能的優(yōu)勢(shì)

隨著越來(lái)越多的設(shè)備收集更多(和更敏感)的數(shù)據(jù)進(jìn)行處理，解決這些挑戰(zhàn)的需求變得越來(lái)越緊迫。這是“邊緣智能”興起的主要推動(dòng)力之一。

在此模型中，不是將所有數(shù)據(jù)發(fā)送到云，而是在本地網(wǎng)絡(luò)的“邊緣”，在連接設(shè)備附近完成密鑰處理和決策。這減少了上述延遲，能耗和帶寬使用，同時(shí)使用戶(hù)能夠?qū)⑺接袛?shù)據(jù)保留在其自己的基礎(chǔ)架構(gòu)范圍內(nèi)。

邊緣智能的核心是機(jī)器學(xué)習(xí)。目前，在這種情況下，我們主要討論機(jī)器推理。這是邊緣設(shè)備使用預(yù)先訓(xùn)練好的的機(jī)器學(xué)習(xí)模型基于本地傳感器收集的新數(shù)據(jù)做出決策的地方。

圖1：ABI的研究人員預(yù)測(cè)，到2024年，支持板載AI推理的設(shè)備出貨量將達(dá)到20億。(來(lái)源ABI;圖片由NXP Semiconductors提供)

在邊緣推動(dòng)向AI的轉(zhuǎn)變

通過(guò)改進(jìn)推理處理，尤其是用于加速推理的技術(shù)，可以在這種資源受限的環(huán)境中顯著增加推理。

第一代機(jī)器學(xué)習(xí)加速器主要基于軟件，并且CPU運(yùn)行指令集。第二代引入了專(zhuān)用硬件，例如GPU和DSP。今天，我們有了第三代產(chǎn)品，它使用了基于硬件的修剪和壓縮等功能。在硬件中完成的工作越多，由于減少了軟件和CPU周期的使用，該過(guò)程就變得更加節(jié)能。

圖2：通過(guò)機(jī)器學(xué)習(xí)加速器可以看到能源效率的提高。(來(lái)源：恩智浦半導(dǎo)體)

當(dāng)今的邊緣智能可以實(shí)現(xiàn)什么

作為人類(lèi)，我們的大部分交流不只是通過(guò)言語(yǔ)傳遞的：我們的語(yǔ)氣，面部表情和手勢(shì)都有助于我們本能地交流和理解彼此。使用基于邊緣的推理，當(dāng)今的設(shè)計(jì)師可以使他們的產(chǎn)品適應(yīng)這些信號(hào)，從而設(shè)計(jì)出越來(lái)越自然的交互體驗(yàn)。技術(shù)可以包括面部和其他對(duì)象和手勢(shì)識(shí)別，語(yǔ)音識(shí)別，音調(diào)分析和自然語(yǔ)言處理。

在其他地方，智能邊緣設(shè)備可以增強(qiáng)安全性。例如，可以訓(xùn)練智能家居邊緣套件來(lái)識(shí)別危險(xiǎn)信號(hào)，例如警報(bào)響起，人員摔倒，玻璃破碎或水龍頭滴落或奔跑。一旦檢測(cè)到問(wèn)題，系統(tǒng)便可以提醒所有者，使他們能夠做出相應(yīng)的反應(yīng)。

接下來(lái)是什么?

在未來(lái)幾年中，很可能會(huì)出現(xiàn)許多利用這種功能日益強(qiáng)大的邊緣智能優(yōu)勢(shì)的新型物聯(lián)網(wǎng)產(chǎn)品和服務(wù)。

我們討論了當(dāng)前如何使用第三代AI加速功能。未來(lái)可能包括神經(jīng)形態(tài)或內(nèi)存計(jì)算，脈沖神經(jīng)網(wǎng)絡(luò)或最終是量子AI。這些發(fā)展將有助于加速當(dāng)前正在出現(xiàn)的另一種趨勢(shì)，即能夠在邊緣實(shí)施機(jī)器學(xué)習(xí)算法的實(shí)際訓(xùn)練。

對(duì)于我們的設(shè)計(jì)師，工程師，企業(yè)和消費(fèi)者而言，這將是一個(gè)激動(dòng)人心的時(shí)刻，我們的技術(shù)將變得更加有用，更加安全并且更具可持續(xù)性。