歐盟前沿性NimbleAI項目采用定制RISC-V處理器來支持神經(jīng)形態(tài)視覺與3D集成芯片

隨著越來越多的研究伙伴加入以及新技術(shù)和新產(chǎn)品的不斷披露，歐盟于2022年底啟動的NimbleAI這一前沿項目在喧囂的GPT熱潮中，開始展現(xiàn)出一條新的智能化和數(shù)字化轉(zhuǎn)型之道。NimbleAI旨在推動神經(jīng)形態(tài)視覺（neuromorphic vision）傳感和處理技術(shù)的發(fā)展和研究。作為一種創(chuàng)新的視覺感知和處理技術(shù)，神經(jīng)形態(tài)視覺參考了生物系統(tǒng)工作方式，通過檢測動態(tài)場景中的變化來決定是否更細致地查看捕捉到的內(nèi)容，而不是花費大量資源區(qū)連續(xù)分析整個場景，從而節(jié)省大量資源和大幅度縮短延遲。

盡管NimbleAI是一個啟動不久的新項目，它已經(jīng)在帶動許多新的計算和控制技術(shù)的研究和開發(fā)。例如，全球領(lǐng)先的定制處理器IP和開發(fā)工具提供商Codasip也一直關(guān)注和參與該領(lǐng)域的進展；作為Codasip的創(chuàng)新孵化器，該公司旗下的Codasip Labs不斷探索將未來新技術(shù)快速推進到應用，因而于近期加入NimbleAI項目，為其開發(fā)一個RISC-V可定制內(nèi)核，賦能神經(jīng)形態(tài)傳感3D集成芯片。

歐盟的NimbleAI項目是一個為期3年、耗資1000萬歐元的研究項目，匯集了來自歐盟和英國的商業(yè)組織和學術(shù)界的合作伙伴共同參與研發(fā)。該項目由歐盟資助，旨在設(shè)計一種神經(jīng)形態(tài)視覺傳感和處理的3D集成芯片。在動輒需要上萬張高性能GPU卡和巨量存儲的GPT人工智能時代，這一靈感來自于眼睛對光線的探測和大腦對視覺信息處理的新機器視覺和智能技術(shù)，以其對資源和算力的節(jié)省再加更低的延遲而廣受關(guān)注，因而NimbleAI項目也吸引了眾多的目光。

歐盟NimbleAI項目的部分成員（圖片來源：NimbleAI）

顯而易見，這是一個受生物學啟發(fā)的前沿技術(shù)，目標是提高下一代基于事件的視覺傳感的神經(jīng)形態(tài)芯片的能源效率和性能。如果一切按計劃進行，那么會創(chuàng)建一種完整的神經(jīng)形態(tài)架構(gòu)，賦能終端設(shè)備有效準確地運行和多樣化的計算機視覺算法。目前這些應用設(shè)備通常在資源和面積上受到限制，典型的應用領(lǐng)域包括手持和電池供電的醫(yī)療成像設(shè)備、自動駕駛車輛智能顯示器、可穿戴的眼球追蹤眼鏡等等。

將生物系統(tǒng)作為電子系統(tǒng)的“黃金基準”是近年來的一個技術(shù)趨勢。受到生物學的啟發(fā)，NimbleAI正在利用生物眼腦系統(tǒng)作為其系統(tǒng)架構(gòu)。該項目正在實施一個始終在線的傳感模式，高度專業(yè)化的事件驅(qū)動處理內(nèi)核和神經(jīng)網(wǎng)絡(luò)，以使用最少的能量對選定的刺激進行視覺推理。通過基于事件來決定應該發(fā)送和分析什么信息，計算系統(tǒng)就可以選擇捕捉和分析有意義的特征信息，而不需要捕捉和分析所有信息。這種基于事件的方法可以大幅度降低資源需求，節(jié)省大量能耗，并減少延遲。

作為定制處理器專家，Codasip在該項目中積極探索RISC-V ISA在內(nèi)存加速器中的擴展，這些加速器由合作伙伴CEA提供。定制的RISC-V處理有助于提高神經(jīng)形態(tài)芯片的性能并降低其功耗。為了實現(xiàn)這一目標，項目選用了Codasip Studio工具和CodAL架構(gòu)描述語言，這些工具促使定制工作流程變得直接便捷。之后由Codasip開發(fā)的RISC-V內(nèi)核會被映射到Menta SAS的嵌入式FPGA（eFPGA）模塊上。

改變游戲規(guī)則的定制處理器技術(shù)

目前在NimbleAI項目中，Codasip團隊正在開發(fā)基于RISC-V的下一代人工智能處理器。同時這也是Codasip Labs的系列項目中的一個完美案例。Codasip Labs專注于關(guān)鍵應用領(lǐng)域，包括安全、功能安全和人工智能/機器學習（AI/ML）等等。以發(fā)現(xiàn)和打造創(chuàng)新技術(shù)來擴展定制計算的無限可能性為宗旨。在NimbleAI項目之前，Codasip的可定制RISC-V處理器IP和Codasip Studio定制開發(fā)工具已經(jīng)得到了實際應用的廣泛驗證并獲得了多項業(yè)界大獎的褒嘉，搭載其IP的處理器的出貨量已超過20億顆。

NimbleAI項目正在證明一個新的趨勢：通過定制的、領(lǐng)域?qū)Ｓ玫奶幚砥髟O(shè)計，可以加快直接針對智能化應用的定制化/差異化處理器產(chǎn)品的上市時間，并能夠以高性能和低功耗等特性來最終贏得市場青睞。在為期3年的NimbleAI項目結(jié)束時，與目前基于幀的CPU或GPU處理視頻標準相比，我們期望看到重大的性能提升。該項目將實現(xiàn)新的功能和實際實現(xiàn)，以解鎖更先進的人工智能和計算機視覺算法和應用。