NetSpeed 發(fā)布基于人工智能的片內(nèi)互連方案Orion AI 重新定義SoC設(shè)計

2017年底的美國NIPS大會上，特斯拉宣布了正在研制AI芯片的大消息，這是以4級和5級自動駕駛為目標(biāo)的前瞻性設(shè)計。

4級自動駕駛將需要非常巨大的計算和數(shù)據(jù)傳輸需求，英特爾的報告指出，其的計算量高達(dá)到4TB/天。目前，特斯拉的自動駕駛系統(tǒng)Autopilot采用英偉達(dá)的GPU方案。然而GPU計算能力的進(jìn)一步提升帶來的巨大功耗不容忽視，很難同時滿足未來無人駕駛要求的巨大運(yùn)算能力和超低功耗。4級自動駕駛未來采用更具功耗優(yōu)勢的AI芯片則是勢在必行。

據(jù)悉，特斯拉這款自研AI芯片已經(jīng)進(jìn)入測試階段。和同類芯片相比，其開發(fā)周期大大縮短，僅僅9個月。這是因為該芯片在設(shè)計初期就采用了顛覆性的設(shè)計思路，芯片內(nèi)部通信采用了NetSpeed Systems公司基于人工智能的拓?fù)浣Y(jié)構(gòu)。

無獨有偶，高通、Intel、亞馬遜，以及中國的AI領(lǐng)軍企業(yè)百度、寒武紀(jì)和地平線機(jī)器人也采用了這種創(chuàng)新的片內(nèi)互連方案。為什么這一設(shè)計理念會受到眾多AI公司的青睞?NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘向21ic記者介紹了最新發(fā)布的SoC片內(nèi)互連方案Orion AI及其優(yōu)勢。

圖：NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘

人工智能技術(shù)在視頻、語音、預(yù)測、機(jī)器人及自動駕駛等應(yīng)用中越來越廣泛。黃啓弘表示，

這些熱門的AI應(yīng)用已經(jīng)對處理能力提出進(jìn)階需求，需要TB/s量級的帶寬。芯片內(nèi)部上千個運(yùn)算單元，會達(dá)到甚者超過512位的位寬，這些對工程師設(shè)計SoC架構(gòu)帶來了巨大的挑戰(zhàn)。這時候，就需要打破傳統(tǒng)的設(shè)計思路，借助人工智能算法幫助工程師化繁為簡。

Orion AI片內(nèi)互連方案應(yīng)運(yùn)而生。Orion AI基于NetSpeed經(jīng)過驗證的Orion IP，提供了以人工智能為核心的設(shè)計方法，在芯片內(nèi)部采用點對點通信，通過大型矩陣乘法，幫助工程師尋找到最佳解決方案，顯著節(jié)省了開發(fā)時間。“在SoC架構(gòu)設(shè)計的最初，工程師就可以把系統(tǒng)需求提供給Orion AI，NetSpeed的圖靈機(jī)器學(xué)習(xí)引擎將通過神經(jīng)網(wǎng)路進(jìn)行多次的學(xué)習(xí)迭代，不斷優(yōu)化，最終得到符合系統(tǒng)需求的最佳設(shè)計。”黃啓弘表示，“工程師們不必再為思考系統(tǒng)內(nèi)部數(shù)據(jù)交換的主從關(guān)系等耗費(fèi)大量寶貴的時間，而能用更多的精力進(jìn)行創(chuàng)新設(shè)計。如果系統(tǒng)需求要更改或進(jìn)一步提升，Orion AI也可以提供持續(xù)的設(shè)計反饋。”

圖：Orion AI在神經(jīng)網(wǎng)絡(luò)上多次迭代得到最佳方案

基于人工智能的設(shè)計需要大量的計算單元，任意節(jié)點數(shù)據(jù)點對點的通信也需要極高的帶寬，這時候，Orion AI支持可配置多播的專利技術(shù)和先進(jìn)的QoS機(jī)制就顯得至關(guān)重要。Orion AI可以動態(tài)控制下一點到多點的傳播，而且支持無需回傳的寫入信息模式，大大提高了效率。同時，Orion AI先進(jìn)的端到端帶寬分配控制和通信隔離與延遲控制機(jī)制使QoS得到保障。

圖：Orion AI具有模塊化、可擴(kuò)展的多層堆疊架構(gòu)

據(jù)介紹，Orion AI可實現(xiàn)極致性能，片上帶寬高達(dá)萬億位，并具備支持?jǐn)?shù)千計算引擎的底層架構(gòu)。它提供超寬數(shù)據(jù)通路，接口位寬高達(dá)1024位，內(nèi)部結(jié)構(gòu)位寬更高，并可支持高達(dá)4K字節(jié)的長突發(fā)傳輸。NetSpeed近日推出的SoCBuilder包含一個預(yù)集成的第三方IP目錄，以及針對人工智能、汽車電子、5G、超大規(guī)模計算和AR / VR等應(yīng)用的專用參考設(shè)計。采用SoCBuilder，SoC開發(fā)將更快速、更容易，更準(zhǔn)確，將系統(tǒng)搭建時間從數(shù)月或數(shù)周縮短到數(shù)天。

正如Linley Group首席分析師Linley Gwennap所說，有了Orion AI的幫助，“就像有一位隨時在線的建筑大師給出設(shè)計建議。”Orion AI 重新定義了SoC設(shè)計，使得SoC既面向人工智能應(yīng)用，本身也運(yùn)用人工智能技術(shù)，工程師可以采納圖靈的建議得到最優(yōu)架構(gòu)，用寶貴的時間去解決SoC設(shè)計中的其他難題。