Ceva擴展智能邊緣 IP領導地位 增添用于AIoT 設備的全新TinyML 優(yōu)化 NPU,實現無處不在的邊緣人工智能
· 小巧的Ceva-NeuPro-Nano NPU帶來了超低功耗與最佳性能的優(yōu)化平衡,可在消費、工業(yè)和通用 AIoT 產品中高效執(zhí)行 TinyML 工作負載
· 用于 Ceva-NeuPro NPU 系列的 Ceva-NeuPro Studio完善了 AI SDK,支持包括TensorFlow Lite for Microcontrollers和 microTVM的開放式 AI 框架,可加快開發(fā) TinyML 應用
· Ceva 憑借在物聯(lián)網連接方面的市場領導地位以及在音頻和視覺傳感方面的強大專業(yè)知識,開發(fā)針對嵌入式設備的優(yōu)化 NPU,幫助半導體企業(yè)和 OEM廠商發(fā)揮邊緣人工智能的潛力
幫助智能邊緣設備更可靠、更高效地連接、感知和推斷數據的全球領先半導體產品和軟件IP授權許可廠商Ceva公司(納斯達克股票代碼:CEVA) 宣布推出Ceva-NeuPro-Nano NPU以擴展其Ceva-NeuPro Edge AI NPU產品系列。這些自給自足的高效NPU可為半導體企業(yè)和OEM廠商提供所需的功耗、性能和成本效益,以便在用于消費、工業(yè)和通用 AIoT 產品的SoC 中集成TinyML模型。
TinyML是指在低功耗、資源受限的設備上部署機器學習模型,從而將人工智能引入物聯(lián)網 (IoT)。物聯(lián)網設備對高效、專業(yè)的人工智能解決方案的需求日益增加,推動了TinyML市場快速增長。根據研究機構ABI Research預測,到 2030 年,超過40% 的TinyML出貨量將采用專用 TinyML 硬件,而非由通用MCU驅動。Ceva-NeuPro-Nano NPU解決了TinyML所面臨的特定性能難題,以實現無處不在和經濟實用的人工智能,廣泛應用于消費和工業(yè)物聯(lián)網應用中的語音、視覺、預測性維護和健康感知等領域。
新型 Ceva-NeuPro-Nano 嵌入式AI NPU架構完全可編程,可高效執(zhí)行神經網絡、特征提取、控制代碼和 DSP 代碼,并支持最先進的機器學習數據類型和運算符,包括原生變換器計算、稀疏性加速和快速量化。與需要結合CPU或DSP并且基于 AI 加速器架構的現有TinyML 工作負載處理器解決方案相比,這種優(yōu)化的自給自足架構使得Ceva-NeuPro-Nano NPU具有更高的能效、更小的硅片尺寸以及更佳性能。此外,Ceva-NetSqueeze AI壓縮技術可直接處理壓縮模型權重,省去中間的解壓縮階段,這減少了80%的Ceva-NeuPro-Nano NPU內存占用,從而解決了阻礙AIoT處理器廣泛應用的關鍵瓶頸問題。
Ceva副總裁兼?zhèn)鞲衅骱鸵纛l業(yè)務部門總經理Chad Lucien表示:“Ceva-NeuPro-Nano將TinyML應用集成到低功耗物聯(lián)網SoC和MCU中,并且以我們的企業(yè)戰(zhàn)略為基礎,通過先進的連接、傳感和推理能力為智能邊緣設備賦能,為企業(yè)開創(chuàng)了難能可貴的機會。Ceva-NeuPro-Nano系列NPU使得更多公司能夠將人工智能帶入邊緣應用,從而制造具有先進功能集的智能物聯(lián)網設備,為客戶創(chuàng)造更多的價值。我們在無線物聯(lián)網連接方面具有行業(yè)領先地位,在音頻和視覺傳感方面亦擁有強大專業(yè)技術,具備獨一無二的市場條件,能夠幫助客戶發(fā)揮TinyML的巨大潛力,實現創(chuàng)新的解決方案,從而增強用戶體驗、提高效率,并為建設更智能、更互聯(lián)的世界做出貢獻?!?
ABI Research 行業(yè)分析師 Paul Schell 表示:“對于在智能邊緣物聯(lián)網設備上實現人工智能,Ceva-NeuPro-Nano可以滿足電池供電設備對功耗、性能和成本的要求,實現語音、視覺和傳感用例在廣泛終端市場的始終在線應用,令人刮目相看。從 TWS 耳機、耳塞、可穿戴設備和智能揚聲器到工業(yè)傳感器、智能電器、家居自動化設備、攝像頭等,Ceva-NeuPro-Nano可以在能源受限的 AIoT 設備中實施 TinyML。”
Ceva-NeuPro-Nano NPU提供兩款配置,包括配備32個int8 MAC的Ceva-NPN32和配備64個int8 MAC的Ceva-NPN64,兩種配置都通過Ceva-NetSqueeze獲得直接處理壓縮模型權重功能。Ceva-NPN32 針對語音、音頻、物品檢測和異常檢測用例的大多數 TinyML工作負載進行了高度優(yōu)化;Ceva-NPN64則利用權重稀疏性、更大內存帶寬、更多MAC和4位權重支持提供2倍性能加速,從而提供更強大的性能,在設備上實現更復雜的人工智能用例 (如物品分類、人臉檢測、語音識別和健康監(jiān)測等) 。
這些NPU隨附完整的人工智能SDK - Ceva-NeuPro Studio,這是為整個Ceva-NeuPro NPU系列提供一套通用工具的統(tǒng)一人工智能堆棧,支持包括TensorFlow Lite for Microcontrollers (TFLM) 和 microTVM (μTVM)的開放式人工智能框架。
Ceva-NeuPro-Nano 主要特性
靈活的可擴展NPU 架構
· 完全可編程,高效執(zhí)行神經網絡、特征提取、控制代碼和 DSP 代碼
· 設計具備可擴展性能,滿足廣泛用例需求
o 具有每周期最多 64 個 int8 MAC的MAC 配置
· 面向未來的架構,支持最先進的 ML 數據類型和運算符
o 支持 4 位至 32 位整數
o 原生變換器計算
· 利用先進的機制為所有用例提供終極 ML 性能
o 稀疏性加速
o 非線性激活類型加速
o 快速量化
超低內存需求邊緣 NPU
· 用于NN計算、特征提取、控制代碼和DSP代碼的高效單核設計,可讓這些計算密集型任務省去配套MCU
· 通過 Ceva-NetSqueeze 直接處理壓縮模型權重,省去中間的解壓縮階段,最多可減少 80% 的內存占用
通過創(chuàng)新能源優(yōu)化技術實現超低能耗
· 自動化的即時能源調整
· 通過使用權重稀疏性加速對計算進行提煉,大幅降低能耗和帶寬需求
易于使用的完備人工智能 SDK
· Ceva-NeuPro Studio為所有Ceva-NeuPro NPU (從全新Ceva-NeuPro-Nano到功能強大的Ceva-NeuPro-M) 提供統(tǒng)一的人工智能堆棧,具有簡便的點擊運行使用體驗
· 加速軟件的開發(fā)和部署,從而縮短產品上市時間
· 經過優(yōu)化,可與包括 TFLM 和 μTVM 在內的領先開放式人工智能推理框架無縫協(xié)作
· Model Zoo包含預訓練和優(yōu)化的TinyML 模型,涵蓋語音、視覺和傳感用例
· 靈活適應新的模型、應用和市場需求
· 全面的優(yōu)化運行時間程序庫和現成的特定應用軟件組合