英特爾公布神經(jīng)擬態(tài)研究進展,推動架構、軟件和系統(tǒng)的改進
近日,英特爾公布了參與其“英特爾神經(jīng)擬態(tài)研究社區(qū)”1(INRC)的學術組織、政府機構和企業(yè)研究團體名單,并在10月份舉行的首屆INRC研討會上探討了取得的研究進展。INRC的目標是解決主流計算應用在采用神經(jīng)擬態(tài)架構方面所面臨的挑戰(zhàn)。INRC成員將使用英特爾的Loihi研究芯片作為研發(fā)活動的架構焦點。英特爾希望該團體取得的成果未來能夠推動神經(jīng)擬態(tài)架構、軟件和系統(tǒng)的改進,最終讓這項前景廣闊的技術實現(xiàn)商業(yè)化。
英特爾神經(jīng)擬態(tài)計算實驗室總監(jiān)MikeDavies表示:“盡管在計算堆棧的各個層級都有很多重要的神經(jīng)擬態(tài)計算研究問題有待解答,但我們認為目前神經(jīng)擬態(tài)硬件的開發(fā)狀態(tài)引領著神經(jīng)擬態(tài)計算軟件的進展狀況。我們深信,INRC成員網(wǎng)絡將迅速推進神經(jīng)擬態(tài)學習算法的狀態(tài),并展示這種新興技術在廣泛應用中的價值?!?/p>
KapohoBay是英特爾基于Loihi神經(jīng)擬態(tài)研究芯片系統(tǒng)所設計的一種USB接口計算設備代號。它為Loihi提供USB接口,以便訪問外圍設備。
共計50個項目入選INRC。參與這些項目的INRC成員將獲準使用英特爾Loihi神經(jīng)擬態(tài)研究芯片和軟件,并將受邀參加技術研討會,他們可以在會上與團隊分享神經(jīng)擬態(tài)研究的相關進展、結果和見解。INRC支持的研討會將提供給成員參與針對Loihi延伸開發(fā)的實踐教程和由英特爾實驗室研究人員及合作方組織的編程馬拉松活動。
在50個入選項目中,來自13所大學的團隊的研究計劃將獲得經(jīng)費支持。這些團隊來自世界各地的眾多學術機構,其中包括伯爾尼大學、加利福尼亞大學伯克利分校、加利福尼亞大學圣地亞哥分校、康奈爾大學、哥廷根大學、格拉茨科技大學、哈佛大學、慕尼黑工業(yè)大學、拉德堡德大學、田納西大學以及維拉諾瓦大學。
按照預定計劃,這些項目分四輪啟動,第一輪已于2018年第三季度開始。
10月份,英特爾在冰島雷克雅未克舉行了INRC會員的首次會議。60余名研究人員出席了為期五天的會議,在會上討論了研究計劃、了解了Loihi的情況,并與此團體的其他成員會面。INRC老會員作了多場報告,其間公布了一些令人振奮的初步進展。
來自ABR公司(AppliedBrainResearchInc.)*的ChrisEliasmith分享了早期基準測試結果,該測試評估了Loihi運行一個用ABR公司NengoDL(能夠在Loihi上運行TensorFlow訓練的網(wǎng)絡)實現(xiàn)音頻關鍵詞定位的深層網(wǎng)絡的性能表現(xiàn)2。這些結果表明,對于實時流數(shù)據(jù)推理應用,Loihi可以提高兩倍乃至50多倍相比于傳統(tǒng)架構的能效,具體效果視采用的架構而定。
來自格拉茨科技大學理論計算機科學研究所的WolfgangMaass教授談到,他的團隊發(fā)現(xiàn)了一種極具前景的新型脈沖神經(jīng)網(wǎng)絡,這種網(wǎng)絡能實現(xiàn)不亞于“長短期記憶”(LSTM)網(wǎng)絡——一種先進的深度學習模型——的分類精度。LSTM如今常用于語音識別和自然語言處理應用。這些新的脈沖神經(jīng)網(wǎng)絡3名為LSNN,能夠以類似LSTM的方式將工作內(nèi)存整合到其運行中,同時還能保證在神經(jīng)擬態(tài)硬件上運行時效率會顯著提高。這項成果是使用模擬器開發(fā)而成,已在12月份的“神經(jīng)信息處理系統(tǒng)會議”上發(fā)表。Maass的團隊現(xiàn)在正與英特爾實驗室合作,致力于將網(wǎng)絡映射到Loihi。該團隊分享了Loihi網(wǎng)絡的早期準確率結果,目前的準確率處于理想模型的百分之幾以內(nèi)。
來自康奈爾大學的ThomasCleland教授就一套用于在脈沖神經(jīng)網(wǎng)絡中進行信號恢復和識別的神經(jīng)擬態(tài)算法進行了討論,這套算法的計算原理是受哺乳動物嗅覺系統(tǒng)啟發(fā)而得。在將與英特爾研究院合作發(fā)表的工作中,這些在Loihi上運行的算法在化學傳感器數(shù)據(jù)集上展示了最先進的學習和分類性能。Cleland表示:“這些算法源自對哺乳動物大腦嗅覺回路的機械研究,但我預計,它們將廣泛適用于一系列類似的計算問題,例如空氣質量和水質評估、癌癥篩查,以及基因組表達譜分析?!?/p>
神經(jīng)擬態(tài)計算要求自下而上地徹底重新考慮計算機架構。運用對神經(jīng)科學產(chǎn)生的最新見解,旨在制造出的芯片不那么像傳統(tǒng)電腦的運作方式,而更類似于人腦。神經(jīng)擬態(tài)芯片使用可根據(jù)事件發(fā)生時間調整的脈沖和可塑性突觸,以模擬大腦神經(jīng)元的交流和學習方式。這些芯片旨在根據(jù)習得的模式和關聯(lián)進行自我組織和決策。
英特爾的目標是使神經(jīng)擬態(tài)芯片終有一天能夠像大腦一樣快速高效地學習,而大腦性能遠遠超出當今性能最強大的計算機。神經(jīng)擬態(tài)計算或將促使機器人、智慧城市基礎架構及其他需要不斷學習并適應不斷演變的真實數(shù)據(jù)的應用實現(xiàn)跨越式發(fā)展。
去年,英特爾推出了Loihi神經(jīng)擬態(tài)測試芯片4,這款獨一無二的研究芯片前所未有地結合了神經(jīng)擬態(tài)特征、效率、規(guī)模和片上學習能力。Loihi是INRC項目的架構基礎。英特爾讓INRC會員能夠使用這一領先的神經(jīng)擬態(tài)芯片,以加快這一研究領域的進展。
英特爾已經(jīng)向參與計劃的INRC會員發(fā)布了適用于Loihi的軟件開發(fā)工具包早期版本NxSDK。研究人員可以通過遠程登錄英特爾的神經(jīng)擬態(tài)云服務來使用Loihi硬件和NxSDK,從而開發(fā)自己的算法、軟件和應用程序。此外,英特爾還支持ABR公司接入Nengo軟件框架,使其與Loihi協(xié)同工作。Nengo現(xiàn)供研究人員免費使用。
Loihi硬件已經(jīng)向部分INRC會員開放,供他們在機器人等需要直接訪問硬件的領域開展研究。這些系統(tǒng)包括代號為“KapohoBay”的USB接口計算設備。除了提供連接到Loihi的USB接口之外,KapohoBay還提供一個事件驅動型硬件接口,可連接到iniVationDAVIS240CDVS硅視網(wǎng)膜攝像頭*以及其他外圍設備。
明年,英特爾和INRC會員將通過出版物和開源軟件的形式,向公共領域貢獻大量的功能軟件和研究成果。INRC會員數(shù)量預計將穩(wěn)步增長;隨著基礎算法和SDK組件日趨成熟,英特爾預計研究課題將越來越側重于現(xiàn)實世界里的技術應用,最終促進神經(jīng)擬態(tài)技術實現(xiàn)商業(yè)化。
英特爾歡迎有興趣加入INRC和Loihi開發(fā)的神經(jīng)科學家、計算科學家和機器學習研究人員發(fā)送電子郵件到inrc_interest@intel.com了解更多信息。
此外,英特爾神經(jīng)擬態(tài)計算實驗室將在以下兩項活動中針對Loihi系統(tǒng)和軟件提供全天教學指導:3月13日在日本神戶舉行的2019年Riken國際神經(jīng)擬態(tài)計算研討會5,以及3月29日在紐約奧爾巴尼舉行的2019年神經(jīng)啟發(fā)計算元件(NICE)研討會6。教學指導面向這些研討會的所有注冊參加者開放。
本文來源:英特爾