英特爾公布神經(jīng)擬態(tài)研究進展，推動架構(gòu)、軟件和系統(tǒng)的改進

近日，英特爾公布了參與其“英特爾神經(jīng)擬態(tài)研究社區(qū)”1(INRC)的學(xué)術(shù)組織、政府機構(gòu)和企業(yè)研究團體名單，并在10月份舉行的首屆INRC研討會上探討了取得的研究進展。INRC的目標是解決主流計算應(yīng)用在采用神經(jīng)擬態(tài)架構(gòu)方面所面臨的挑戰(zhàn)。INRC成員將使用英特爾的Loihi研究芯片作為研發(fā)活動的架構(gòu)焦點。英特爾希望該團體取得的成果未來能夠推動神經(jīng)擬態(tài)架構(gòu)、軟件和系統(tǒng)的改進，最終讓這項前景廣闊的技術(shù)實現(xiàn)商業(yè)化。

英特爾神經(jīng)擬態(tài)計算實驗室總監(jiān)MikeDavies表示：“盡管在計算堆棧的各個層級都有很多重要的神經(jīng)擬態(tài)計算研究問題有待解答，但我們認為目前神經(jīng)擬態(tài)硬件的開發(fā)狀態(tài)引領(lǐng)著神經(jīng)擬態(tài)計算軟件的進展?fàn)顩r。我們深信，INRC成員網(wǎng)絡(luò)將迅速推進神經(jīng)擬態(tài)學(xué)習(xí)算法的狀態(tài)，并展示這種新興技術(shù)在廣泛應(yīng)用中的價值。”

KapohoBay是英特爾基于Loihi神經(jīng)擬態(tài)研究芯片系統(tǒng)所設(shè)計的一種USB接口計算設(shè)備代號。它為Loihi提供USB接口，以便訪問外圍設(shè)備。

共計50個項目入選INRC。參與這些項目的INRC成員將獲準使用英特爾Loihi神經(jīng)擬態(tài)研究芯片和軟件，并將受邀參加技術(shù)研討會，他們可以在會上與團隊分享神經(jīng)擬態(tài)研究的相關(guān)進展、結(jié)果和見解。INRC支持的研討會將提供給成員參與針對Loihi延伸開發(fā)的實踐教程和由英特爾實驗室研究人員及合作方組織的編程馬拉松活動。

在50個入選項目中，來自13所大學(xué)的團隊的研究計劃將獲得經(jīng)費支持。這些團隊來自世界各地的眾多學(xué)術(shù)機構(gòu)，其中包括伯爾尼大學(xué)、加利福尼亞大學(xué)伯克利分校、加利福尼亞大學(xué)圣地亞哥分校、康奈爾大學(xué)、哥廷根大學(xué)、格拉茨科技大學(xué)、哈佛大學(xué)、慕尼黑工業(yè)大學(xué)、拉德堡德大學(xué)、田納西大學(xué)以及維拉諾瓦大學(xué)。

按照預(yù)定計劃，這些項目分四輪啟動，第一輪已于2018年第三季度開始。

10月份，英特爾在冰島雷克雅未克舉行了INRC會員的首次會議。60余名研究人員出席了為期五天的會議，在會上討論了研究計劃、了解了Loihi的情況，并與此團體的其他成員會面。INRC老會員作了多場報告，其間公布了一些令人振奮的初步進展。

來自ABR公司（AppliedBrainResearchInc.）*的ChrisEliasmith分享了早期基準測試結(jié)果，該測試評估了Loihi運行一個用ABR公司NengoDL（能夠在Loihi上運行TensorFlow訓(xùn)練的網(wǎng)絡(luò)）實現(xiàn)音頻關(guān)鍵詞定位的深層網(wǎng)絡(luò)的性能表現(xiàn)2。這些結(jié)果表明，對于實時流數(shù)據(jù)推理應(yīng)用，Loihi可以提高兩倍乃至50多倍相比于傳統(tǒng)架構(gòu)的能效，具體效果視采用的架構(gòu)而定。

來自格拉茨科技大學(xué)理論計算機科學(xué)研究所的WolfgangMaass教授談到，他的團隊發(fā)現(xiàn)了一種極具前景的新型脈沖神經(jīng)網(wǎng)絡(luò)，這種網(wǎng)絡(luò)能實現(xiàn)不亞于“長短期記憶”(LSTM)網(wǎng)絡(luò)——一種先進的深度學(xué)習(xí)模型——的分類精度。LSTM如今常用于語音識別和自然語言處理應(yīng)用。這些新的脈沖神經(jīng)網(wǎng)絡(luò)3名為LSNN，能夠以類似LSTM的方式將工作內(nèi)存整合到其運行中，同時還能保證在神經(jīng)擬態(tài)硬件上運行時效率會顯著提高。這項成果是使用模擬器開發(fā)而成，已在12月份的“神經(jīng)信息處理系統(tǒng)會議”上發(fā)表。Maass的團隊現(xiàn)在正與英特爾實驗室合作，致力于將網(wǎng)絡(luò)映射到Loihi。該團隊分享了Loihi網(wǎng)絡(luò)的早期準確率結(jié)果，目前的準確率處于理想模型的百分之幾以內(nèi)。

來自康奈爾大學(xué)的ThomasCleland教授就一套用于在脈沖神經(jīng)網(wǎng)絡(luò)中進行信號恢復(fù)和識別的神經(jīng)擬態(tài)算法進行了討論，這套算法的計算原理是受哺乳動物嗅覺系統(tǒng)啟發(fā)而得。在將與英特爾研究院合作發(fā)表的工作中，這些在Loihi上運行的算法在化學(xué)傳感器數(shù)據(jù)集上展示了最先進的學(xué)習(xí)和分類性能。Cleland表示：“這些算法源自對哺乳動物大腦嗅覺回路的機械研究，但我預(yù)計，它們將廣泛適用于一系列類似的計算問題，例如空氣質(zhì)量和水質(zhì)評估、癌癥篩查，以及基因組表達譜分析?！?/p>

神經(jīng)擬態(tài)計算要求自下而上地徹底重新考慮計算機架構(gòu)。運用對神經(jīng)科學(xué)產(chǎn)生的最新見解，旨在制造出的芯片不那么像傳統(tǒng)電腦的運作方式，而更類似于人腦。神經(jīng)擬態(tài)芯片使用可根據(jù)事件發(fā)生時間調(diào)整的脈沖和可塑性突觸，以模擬大腦神經(jīng)元的交流和學(xué)習(xí)方式。這些芯片旨在根據(jù)習(xí)得的模式和關(guān)聯(lián)進行自我組織和決策。

英特爾的目標是使神經(jīng)擬態(tài)芯片終有一天能夠像大腦一樣快速高效地學(xué)習(xí)，而大腦性能遠遠超出當(dāng)今性能最強大的計算機。神經(jīng)擬態(tài)計算或?qū)⒋偈箼C器人、智慧城市基礎(chǔ)架構(gòu)及其他需要不斷學(xué)習(xí)并適應(yīng)不斷演變的真實數(shù)據(jù)的應(yīng)用實現(xiàn)跨越式發(fā)展。

去年，英特爾推出了Loihi神經(jīng)擬態(tài)測試芯片4，這款獨一無二的研究芯片前所未有地結(jié)合了神經(jīng)擬態(tài)特征、效率、規(guī)模和片上學(xué)習(xí)能力。Loihi是INRC項目的架構(gòu)基礎(chǔ)。英特爾讓INRC會員能夠使用這一領(lǐng)先的神經(jīng)擬態(tài)芯片，以加快這一研究領(lǐng)域的進展。

英特爾已經(jīng)向參與計劃的INRC會員發(fā)布了適用于Loihi的軟件開發(fā)工具包早期版本NxSDK。研究人員可以通過遠程登錄英特爾的神經(jīng)擬態(tài)云服務(wù)來使用Loihi硬件和NxSDK，從而開發(fā)自己的算法、軟件和應(yīng)用程序。此外，英特爾還支持ABR公司接入Nengo軟件框架，使其與Loihi協(xié)同工作。Nengo現(xiàn)供研究人員免費使用。

Loihi硬件已經(jīng)向部分INRC會員開放，供他們在機器人等需要直接訪問硬件的領(lǐng)域開展研究。這些系統(tǒng)包括代號為“KapohoBay”的USB接口計算設(shè)備。除了提供連接到Loihi的USB接口之外，KapohoBay還提供一個事件驅(qū)動型硬件接口，可連接到iniVationDAVIS240CDVS硅視網(wǎng)膜攝像頭*以及其他外圍設(shè)備。

明年，英特爾和INRC會員將通過出版物和開源軟件的形式，向公共領(lǐng)域貢獻大量的功能軟件和研究成果。INRC會員數(shù)量預(yù)計將穩(wěn)步增長；隨著基礎(chǔ)算法和SDK組件日趨成熟，英特爾預(yù)計研究課題將越來越側(cè)重于現(xiàn)實世界里的技術(shù)應(yīng)用，最終促進神經(jīng)擬態(tài)技術(shù)實現(xiàn)商業(yè)化。

英特爾歡迎有興趣加入INRC和Loihi開發(fā)的神經(jīng)科學(xué)家、計算科學(xué)家和機器學(xué)習(xí)研究人員發(fā)送電子郵件到inrc_interest@intel.com了解更多信息。

此外，英特爾神經(jīng)擬態(tài)計算實驗室將在以下兩項活動中針對Loihi系統(tǒng)和軟件提供全天教學(xué)指導(dǎo)：3月13日在日本神戶舉行的2019年Riken國際神經(jīng)擬態(tài)計算研討會5，以及3月29日在紐約奧爾巴尼舉行的2019年神經(jīng)啟發(fā)計算元件(NICE)研討會6。教學(xué)指導(dǎo)面向這些研討會的所有注冊參加者開放。

本文來源：英特爾