基于硬件加速的超低功耗邊緣智能，讓頭疼的“云端求助”走向本地自主化決策

知乎上有好事者對《西游記》的故事線做過統(tǒng)計，從保護(hù)唐僧遭遇各種艱難險阻到最終取得真經(jīng)，神通廣大的孫悟空一路上遇到各種危險，共求助22次，觀音菩薩和天庭諸神不斷出面幫大圣搞定各種凡間險惡。每次惡斗不贏吃盡苦頭后，大圣總是會想法脫離妖魔圍困跳入云端，駕著跟斗云去尋求各路神仙，一番口舌糾纏之后，盡管總能及時出手相助化險為夷，但師傅唐僧和師弟八戒、沙僧難免要苦熬一陣，或遭遇一番皮肉之苦。

這像極了人工智能日益普及的今天，越來越多的終端設(shè)備依靠云端的“大神”（中心算力）實現(xiàn)各種智能功能，盡管看起來方便，但其實很多場景難免面臨各種問題和潛在隱患，甚至是各種事故風(fēng)險?！斑吘壎嗽O(shè)備監(jiān)測的各種數(shù)據(jù)通過網(wǎng)絡(luò)傳輸?shù)皆贫?，不僅可能帶來很多應(yīng)用場景下不能容忍的延遲問題，還可能因為隱私數(shù)據(jù)的泄露導(dǎo)致嚴(yán)重的數(shù)據(jù)安全?！?a href="/tags/ADI" target="_blank">ADI公司資深業(yè)務(wù)經(jīng)理李勇在最近的一次演講中表示。市場分析數(shù)據(jù)顯示，2020年中國邊緣計算市場規(guī)模為91億元，未來成長空間非常廣闊，預(yù)計到2030年中國邊緣計算市場規(guī)模將接近2500億元。

算力下沉，亟待邊緣智能賦能多類應(yīng)用場景

根據(jù)Gartner預(yù)測，2025年將有75%的數(shù)據(jù)產(chǎn)生在數(shù)據(jù)中心和云之外并在邊緣側(cè)進(jìn)行處理。邊緣計算在降低時延、帶寬需求、保護(hù)隱私數(shù)據(jù)等多方面的價值已經(jīng)被廣泛認(rèn)可，在產(chǎn)業(yè)數(shù)智化中的應(yīng)用也不斷涌現(xiàn)。邊緣計算作為靠近數(shù)據(jù)源頭，融合了網(wǎng)絡(luò)、存儲、計算與應(yīng)用能力的分布式計算平臺，可以對數(shù)據(jù)在本地進(jìn)行實時分析處理，數(shù)據(jù)不必實時回傳至云端，縮短延時，減少網(wǎng)絡(luò)帶寬資源需求，確保應(yīng)用安全高效運(yùn)行。

“失火而取水于海，海水雖多，火必不滅矣，遠(yuǎn)水不救近火也?！薄俄n非子·說林上》上這句話，簡單二十多字說明了一個樸素而重要的道理，即使在科技發(fā)展日新月異的今天依然有其現(xiàn)實意義。在智能應(yīng)用中，因為時間敏感性而舍云端（遠(yuǎn)）智能而用邊緣（近）智能的應(yīng)用場景比比皆是。

例如森林火災(zāi)監(jiān)測，公路、鐵路或者是大壩塌方監(jiān)測，這些地方都普遍比較偏僻，通常沒有很好的通信網(wǎng)絡(luò)，但快速決策和預(yù)警非常關(guān)鍵，因此必須進(jìn)行邊緣端快速判定。“這種應(yīng)用時間敏感性非常高，傳統(tǒng)的云端監(jiān)測，可能需要發(fā)送一組圖片到云端，對網(wǎng)絡(luò)流量要求比較高。通過監(jiān)測端自主智能識別，在狀況發(fā)生時只需要發(fā)短信息就可以快速實現(xiàn)安全告警，避免更嚴(yán)重的災(zāi)害損失發(fā)生?！崩钣轮赋觥?

“這些應(yīng)用除了需要邊緣端快速智能決策，對功耗敏感性也決定了需要進(jìn)行邊緣端自主決策，任何一次更換電池的運(yùn)維成本可能比設(shè)備本身更貴?！崩钣碌莱隽肆硗庖粋€關(guān)鍵點。邊緣智能決策的好處是避免頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導(dǎo)致的高功耗，因此這也讓這些應(yīng)用場景對邊緣智能方案的低功耗特性提出更高的要求，當(dāng)前市場通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應(yīng)用中依然面臨挑戰(zhàn)，市場需要更具超低功耗特性的新一代解決方案。

今年3·15晚會暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽器；2021年，某品牌攝像頭事件數(shù)萬條家庭偷拍視頻被傳播售賣；2021年家庭物聯(lián)網(wǎng)Pink事件，導(dǎo)致國內(nèi)受控智能家居設(shè)備超過百萬......近年來，隨著具備音頻監(jiān)測和視頻監(jiān)測功能的智能設(shè)備的普及，類似的信息安全事故層出不窮。“這些智能設(shè)備需要將邊緣端監(jiān)測的數(shù)據(jù)傳到云端進(jìn)行數(shù)據(jù)處理，沒有人希望家里有一個設(shè)備可能隨時通過畫面或語音監(jiān)測你家里活動情況，你不能確定這些音頻和圖像數(shù)據(jù)是否會被別有用心的人所利用?！崩钣轮赋?。

讓智能從云端走向邊緣，這四大核心能力不可或缺

AI技術(shù)使機(jī)器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去，將AI推理布置到邊緣意味著從傳感器、攝像機(jī)和麥克風(fēng)收集數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到云端實現(xiàn)推理算法，再將結(jié)果送回到邊緣。由于延遲和能耗較大，這種架構(gòu)對于邊緣智能的普及極具挑戰(zhàn)。作為替代方案，低功耗微控制器可用于實施簡單的神經(jīng)網(wǎng)絡(luò)運(yùn)算，但延遲會受到影響，且只能在邊緣執(zhí)行簡單任務(wù)，對于更加復(fù)雜的邊緣智能如何落地？ADI集成神經(jīng)網(wǎng)絡(luò)加速器的MAX78000低功耗微控制器通過獨特的架構(gòu)設(shè)計提供了新的選擇，在算力、功耗、延遲和集成度等方面實現(xiàn)了關(guān)鍵性能的平衡，為機(jī)器視覺、面部識別、目標(biāo)檢測和分類、時序數(shù)據(jù)處理和音頻處理等應(yīng)用提供了一個理想選擇。

邊緣智能的典型應(yīng)用場景是聲音識別和圖像識別，而眾所周知，卷積神經(jīng)網(wǎng)絡(luò)（CNN）是廣泛重視的一種高效識別方法。卷積神經(jīng)網(wǎng)絡(luò)以其局部權(quán)值共享的特殊結(jié)構(gòu)在模式識別方面有著獨特的優(yōu)越性，CNN算法在人工智能之機(jī)器學(xué)習(xí)、語音識別、文檔分析、語言檢測和圖像識別等領(lǐng)域等有著廣泛應(yīng)用。MAX78000的核心即是神經(jīng)網(wǎng)絡(luò)加速器，它是針對語音和圖像識別專門設(shè)計的運(yùn)算加速硬件，可以最大限度地減少卷積神經(jīng)網(wǎng)絡(luò)的功耗和延遲。

“我們看到市場上有很多邊緣智能處理器實際上只是支持軟件的算法，而不是硬件實現(xiàn)加速。MAX78000采用了64個CNN處理器，并行的處理器可以支持最多的卷積預(yù)算層數(shù)和通道數(shù)。”李勇指出，“MAX78000的CNN加速器完全是專有的，而且非常新穎，它的設(shè)計目標(biāo)是最小化數(shù)據(jù)移動，這是眾所周知的對芯片功耗的一個重大負(fù)擔(dān)，尤其是在處理CNN中復(fù)雜的配置時?！?

此外，MAX78000還集成了兩個MCU核心用于系統(tǒng)控制，即ArmCortex-M4處理器和32位RISC-V處理器，其中Arm Cortex-M4F處理器以100MHz運(yùn)行，客戶可以編寫任何系統(tǒng)管理代碼，RISC-V處理器的獨特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡(luò)加速器，用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)的引擎中。而MAX78000具有432KB的權(quán)重存儲空間，與運(yùn)行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運(yùn)行AI推理的速度快了100倍，功耗還不到其1%。

“低功耗是很多邊緣智能應(yīng)用場景的關(guān)鍵要求，MAX78000除了基于CNN加速器和雙核處理器架構(gòu)，還提供高效的片內(nèi)電源管理，集成單電感多輸出 (SIMO) 開關(guān)模式電源，最大限度地延長電池供電的物聯(lián)網(wǎng)設(shè)備的續(xù)航時間。”李勇表示，“很多應(yīng)用需要產(chǎn)品集成度高、體積小，基于MCU或GPU或FPGA的方案很可能放不進(jìn)去，這些方案通常還需要片外存儲器、PMIC，方案無論成本、尺寸還是功耗都具有很大挑戰(zhàn)性。”

優(yōu)化聲音識別和圖像識別應(yīng)用，聚焦邊緣智能主賽道

5G與物聯(lián)網(wǎng)的發(fā)展以及各行業(yè)的智能化轉(zhuǎn)型升級帶來了爆發(fā)式的數(shù)據(jù)增長，而海量的數(shù)據(jù)將在邊緣側(cè)積累，建立在邊緣的數(shù)據(jù)分析與處理將成為智能市場增長的主力?！盎谠朴嬎愕倪吘壷悄芸赡苤贿m合一些大企業(yè)的應(yīng)用，例如幾萬個、幾十萬個客戶來支持一個服務(wù)器，能夠支撐云端的成本。很多基本的控制應(yīng)用，邊緣端的自主智能更具成本效應(yīng)，也符合隱私保護(hù)的考慮?！崩钣轮赋?。

隨著數(shù)據(jù)規(guī)模的不斷擴(kuò)大，云計算在時效性、傳輸距離、安全性等方面的不足使得其在工業(yè)制造、自動駕駛、遠(yuǎn)程醫(yī)療等場景下明顯力不從心，邊緣側(cè)的重要性日益顯現(xiàn)。更靠近數(shù)據(jù)源的邊緣計算不僅能提供低時延、高可靠服務(wù)，還能同時保證數(shù)據(jù)安全、處理實時性。IDC預(yù)測，未來超過50%的數(shù)據(jù)需要在邊緣側(cè)進(jìn)行儲存、分析和計算，這就對邊緣側(cè)的硬件系統(tǒng)提出了更高的要求。

邊緣智能中，聲音智能識別和圖像智能識別是其中最主要的應(yīng)用領(lǐng)域，僅智能音箱2021年市場出貨量就達(dá)3896萬臺，各種基于人臉識別的智能門禁、考勤機(jī)、閘機(jī)應(yīng)用層出不窮?！盎谡Z音與人臉識別的邊緣智能是當(dāng)前市場的重要領(lǐng)域，ADI的MAX78000針對這類應(yīng)用從產(chǎn)品方案到工具優(yōu)化以及生態(tài)上提供了豐富的支持?！崩钣卤硎?，“智能識別數(shù)據(jù)的收集和數(shù)學(xué)模型的建立跟訓(xùn)練很重要，為此ADI提供了聲音識別和face ID 識別demo程序供客戶下載和學(xué)習(xí)，在其基礎(chǔ)上進(jìn)行修改。我們也有非常有經(jīng)驗的第三方生態(tài)伙伴，提供數(shù)學(xué)模型的訓(xùn)練與數(shù)據(jù)的收集?！?

據(jù)悉，MAX78000目前已經(jīng)在森林防火監(jiān)測、地質(zhì)災(zāi)害監(jiān)測以及智能家居等領(lǐng)域獲得廣泛應(yīng)用。“很多類似但并不涉及到公共安全的應(yīng)用也需要實現(xiàn)本地快速智能決策，比如有用戶就針對摩托騎行愛好者希望在騎行中能對頭戴攝像頭實現(xiàn)隨時隨地的語音控制開發(fā)產(chǎn)品，類似的還有助聽器的語音控制、風(fēng)力發(fā)電設(shè)備的安全監(jiān)測這樣的預(yù)測性維護(hù)等等?！崩钣卵a(bǔ)充道，“這種基于超低功耗硬件算力，高集成度、小尺寸且低成本的邊緣智能解決方案的推出，正在為越來越多的應(yīng)用領(lǐng)域提供真正可行的智能賦能方案，我們看到類似的各種創(chuàng)新應(yīng)用正在層出不窮地推出?！?