晶心科技和Deeplite攜手合作高度優(yōu)化深度學(xué)習(xí)模型解決方案

2019年12月31日—32/64位高效能、低功耗、精簡RISC-V CPU 核心的領(lǐng)導(dǎo)供貨商、RISC-V基金會創(chuàng)始白金會員晶心科技，與Lightweight Intelligence? 的創(chuàng)建者，總部位于加拿大蒙特利爾的新創(chuàng)公司Deeplite， Inc.，今日宣布將攜手合作，在基于AndeStar? V5架構(gòu)的晶心RISC-V CPU核心上配置高度優(yōu)化的深度學(xué)習(xí)模型，使AI深度學(xué)習(xí)模型變得更輕巧、快速和節(jié)能。

近年來，諸如支持人工智能（AI）的家庭助理等智能裝置如雨后春筍般普及，為將極精簡的深度學(xué)習(xí)模型應(yīng)用至日常生活提供了理想平臺。為追求低功耗和低計算資源且有效運行，智能裝置必須易于使用并能實時響應(yīng)使用者請求。如今，因應(yīng)復(fù)雜的AI模型計算和功耗需求，大多數(shù)智能裝置必須將用戶數(shù)據(jù)和需求發(fā)送至云端執(zhí)行AI處理，再將結(jié)果傳回智能裝置。

晶心科技和Deeplite聯(lián)手推出解決方案，使諸如智慧家庭助理的人機互動界面可以在本地操作，且?guī)缀醪恍枰?lián)機至云端；當(dāng)智能家庭助理通過小型攝像機偵測到人時，裝置將會自動“喚醒”。其目標(biāo)為優(yōu)化在第一個采用DSP SIMD ISA的商業(yè)RISC-V核心Andes A25和D25F上運行的深度學(xué)習(xí)模型，適用于低成本的AI邊緣計算應(yīng)用。該團隊從在13MB大的Visual Wake Words（VWW）視覺喚醒關(guān)鍵詞數(shù)據(jù)集上訓(xùn)練的MobileNet模型開始，使用Deeplite的硬件感知優(yōu)化引擎，在精準(zhǔn)度只降低1％的情況下，自動發(fā)現(xiàn)、訓(xùn)練和運用小于188KB的新模型。

“我們發(fā)現(xiàn)越來越多的行業(yè)需要在我們具有DSP指令的RISC-V核心如A25和D25F上運行嵌入式、優(yōu)化的深度學(xué)習(xí)模型以加速深度學(xué)習(xí)演算，”晶心科技首席技術(shù)官暨執(zhí)行副總蘇泓萌博士表示，“Deeplite提供了一個可以在晶心內(nèi)部使用的解決方案，同時也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學(xué)習(xí)算法運用到資源有限的邊緣裝置?！?/p>

“我對于這次的合作感到非常興奮！Deeplite不僅在最小精度的影響下提供了高達69倍深度學(xué)習(xí)模型的優(yōu)化，我們也自動化以前費時又容易出錯的人工神經(jīng)網(wǎng)絡(luò)架構(gòu)設(shè)計?！盌eeplite， Inc. CEO Nick Romano表示，“過去需要花費數(shù)周反復(fù)測試才能完成的工作，現(xiàn)在可以在幾個小時內(nèi)自動完成！結(jié)合Deeplite的Lightweight Intelligence? 和晶心最好的CPU，使我們更進一步將AI推廣于日常生活中?！?/p>

透過將Deeplite領(lǐng)先業(yè)界的優(yōu)化技術(shù)與晶心最先進的RISC-V CPU相結(jié)合，為如語音識別或人員偵測等所需的微控制器級內(nèi)存及運算要求，原始設(shè)備廠商（OEM）和應(yīng)用開發(fā)人員可以提供讓用戶可將數(shù)據(jù)保留在裝置上，并且同時仍能提供在世界各地真實環(huán)境下AI需有的實時且無縫響應(yīng)等優(yōu)勢。