越來越多的人工智能(AI)在互聯(lián)網上的東西設備中創(chuàng)造智能的'愛'設備,各種應用正受益于這些智能設備。他們學習數(shù)據,在沒有人為干預的情況下做出自主決策,導致產品與環(huán)境進行更合乎邏輯、更像人類的互動。
人工智能和微處理器的結合為單片機開辟了新的市場。它使越來越多的新的應用程序和用例能夠使用簡單的單片機和人工智能加速來促進智能控制。這些由AI啟動的單片機提供了一種獨特的DSP計算和機器學習能力(ML)來進行推理,目前正被用于各種各樣的應用,如關鍵字識別、傳感器融合、振動分析和語音識別。高性能的單片機能夠在視覺和成像方面提供更復雜的應用,如面部識別、指紋分析和自主機器人。
人工智能技術
下面是一些能夠使用iot設備的人工智能技術:
機器學習 :機器學習算法基于代表性數(shù)據建立模型,使設備能夠在沒有人為干預的情況下自動識別模式。ML供應商提供了訓練模型所需的算法、API和工具,這些模型可以被構建到嵌入式系統(tǒng)中。然后,這些嵌入式系統(tǒng)使用預先訓練的模型來驅動基于新輸入數(shù)據的推論或預測。例如傳感器中心,關鍵詞識別,預測維護和分類。
深入學習 深度學習是一種機器學習,通過使用神經網絡的許多層來從復雜的輸入數(shù)據中提取更高層次的特性和見解來訓練系統(tǒng)。深度學習與非常大、多樣和復雜的輸入數(shù)據一起工作,并使系統(tǒng)能夠迭代學習,隨著每一步的進行改進結果。運用深入學習的應用實例有圖像處理、客戶服務的聊天機器人和面部識別。
自然語言處理(NLP) :NLP是人工智能的一個分支,處理系統(tǒng)與人類之間使用自然語言的互動。NLP幫助系統(tǒng)理解和解釋人類語言(文本或語音),并在此基礎上做出決策。例如語音識別系統(tǒng)、機器翻譯和預測打字.
計算機視覺 :機器/計算機視覺是一個人工智能領域,培訓機器收集、解釋和理解圖像數(shù)據,并根據這些數(shù)據采取行動。機器從相機上收集數(shù)字圖像/視頻,使用深入學習的模型和圖像分析工具,以精確地識別和分類物體,并根據它們"看到"的東西采取行動。例如制造裝配線故障檢測、醫(yī)療診斷、零售店的面部識別和無人駕駛汽車測試。
母嬰健康評估計劃
過去,人工智能是具有強大CPU核心、大內存資源和用于分析的云連接的MPS和GPS的權限。不過,近年來,隨著智能化程度的日益提高,我們開始看到在嵌入式AOT應用程序中使用單片機。移動到邊緣是由延遲和成本因素驅動的,涉及到將計算移動到更接近數(shù)據的位置?；趩纹瑱C的iot設備上的人工智能能夠實時決策和更快地響應事件,具有帶寬需求較低、功率較低、延遲時間較低、成本較低和安全性較高的優(yōu)點。由于最近的單片機具有較高的計算能力,以及薄神經網絡(NN)框架的可用性,而這些框架更適合于在這些終端設備中使用的資源受限的單片機。
神經網絡是一個節(jié)點的集合,被安排在一個層中,接收上一層的輸入,并生成一個輸出,該輸出是從輸入的加權和偏置和中計算出來的。這個輸出沿著所有的輸出連接傳遞到下一層。在訓練過程中,訓練數(shù)據被輸入到網絡的第一個或輸入層,每個層的輸出被傳遞到下一個。最后一層或輸出層生成模型的預測值,這些預測值與評估模型錯誤的已知預期值進行比較。訓練過程涉及到在每次迭代中使用一個叫做反傳播的過程來完善或調整網絡每個層的權重和偏差,直到網絡的輸出與預期值密切相關。換句話說,網絡從輸入數(shù)據集中反復"學習",并逐步提高輸出預測的準確性。
神經網絡的訓練需要非常高的計算性能和內存,通常在云中進行。經過訓練,該預訓練的NN模型嵌入到單片機中,并作為基于訓練的新輸入數(shù)據的推理引擎。
這種推理生成需要比模型的訓練低得多的計算性能,因此適合于單片機。這種預先訓練的NN模型的權重是固定的,可以放在閃存,從而減少SRAM的需求量,使其適合于更多的資源受限的單片機。
關于婦幼保健單位的實施
在單片機上實施AOOT涉及到幾個步驟。最常見的方法是使用現(xiàn)有的神經網絡(NN)框架模型之一,如卡菲或張力流巖,適合于基于單片機的終端設備解決方案。用于機器學習的NN模型的培訓是由人工智能專家使用人工智能供應商提供的工具在云端進行的。利用AI供應商和單片機制造商的工具,對單片機進行了NN模型的優(yōu)化和集成。采用預先訓練的NN模型對單片機進行了推斷。
流程的第一步是完全脫機完成,從終端設備或應用程序捕獲大量數(shù)據,然后用于培訓NN模型。模型的拓撲結構由AI開發(fā)人員定義,以充分利用可用數(shù)據并提供該應用程序所需的輸出。對NN模型的訓練是通過迭代地將數(shù)據集傳遞到模型中來完成的,目的是持續(xù)地減少模型輸出時的錯誤。國家網絡框架中有一些工具可以在這個過程中提供幫助。
在第二步中,這些經過培訓的模型被轉換成適合于單片機的格式,這些模型被優(yōu)化用于某些功能,如關鍵字識別或語音識別。這個過程的第一步是使用AI轉換工具將它轉換為平面緩沖文件。這可以選擇性地通過量化器運行,以減少尺寸和優(yōu)化它的單片機。然后將該平面緩沖區(qū)文件轉換為C代碼,并將其作為運行時可執(zhí)行文件傳輸?shù)侥繕藛纹瑱C。
這個單片機,配備了預先訓練的嵌入式人工智能模型,現(xiàn)在可以部署在終端設備。當新數(shù)據輸入時,它將通過模型運行,并在培訓的基礎上生成一個推理。當新的數(shù)據類出現(xiàn)時,NN模型可以被送回云端進行再培訓,新的再培訓模型可以在單片機上編程,可能通過OTA(空)固件升級。
可以用兩種不同的方式來架構基于mcu的AI解決方案。為了討論這個問題,我們假設在目標單片機中使用ARM皮質M核。
在第一種方法中,將轉換的NN模型在皮層-MCPU核心上執(zhí)行,并使用CMS-NN庫進行加速。這是一個簡單的配置,可以處理沒有任何額外的硬件加速度,適合于更簡單的AI應用程序,如關鍵字定位,振動分析和傳感器樞紐。
一個更復雜和更高性能的選擇包括一個NN加速器或微神經處理單元(U-NSP)硬件在單片機。這些U-NPS在資源受限的iot終端設備中加速機器學習,并可能支持壓縮,從而降低模型的功率和尺寸。它們支持能夠完全執(zhí)行音頻處理、語音識別、圖像分類和對象檢測的大多數(shù)公共NN網絡的操作員。不受u-n-n支持的網絡可以回到主CPU核心,并由cms-nn庫加速。在此方法中,NN模型被執(zhí)行在UNP上。
這些方法只展示了在基于單片機的設備中集成AI的幾種方法。隨著單片機將性能邊界推到更高的層次,更接近于來自MPPS的預期,我們希望開始看到包括輕量級學習算法和推理在內的完整的AI功能,直接建立在單片機上。
在邊緣的人工智能是未來
未來,關于資源受限的單片機系統(tǒng)的人工智能的實施將呈指數(shù)級增長,隨著單片機系統(tǒng)推進性能界限,模糊了單片機和MPS之間的界線,越來越多的適合于資源受限設備的"薄"NN模型開始出現(xiàn),我們將繼續(xù)看到新的應用程序和用例出現(xiàn)。
將來,隨著單片機性能的提高,除了推理之外,我們可能會看到輕量級學習算法的實現(xiàn),直接在單片機上運行。這將為單片機制造商開辟新的市場和應用,并將成為它們的一個重大投資領域。
下載文檔
