NetSpeed 發(fā)布基于人工智能的片內(nèi)互連方案Orion AI 重新定義SoC設(shè)計(jì)

2017年底的美國NIPS大會(huì)上，特斯拉宣布了正在研制AI芯片的大消息，這是以4級(jí)和5級(jí)自動(dòng)駕駛為目標(biāo)的前瞻性設(shè)計(jì)。

4級(jí)自動(dòng)駕駛將需要非常巨大的計(jì)算和數(shù)據(jù)傳輸需求，英特爾的報(bào)告指出，其的計(jì)算量高達(dá)到4TB/天。目前，特斯拉的自動(dòng)駕駛系統(tǒng)Autopilot采用英偉達(dá)的GPU方案。然而GPU計(jì)算能力的進(jìn)一步提升帶來的巨大功耗不容忽視，很難同時(shí)滿足未來無人駕駛要求的巨大運(yùn)算能力和超低功耗。4級(jí)自動(dòng)駕駛未來采用更具功耗優(yōu)勢的AI芯片則是勢在必行。

據(jù)悉，特斯拉這款自研AI芯片已經(jīng)進(jìn)入測試階段。和同類芯片相比，其開發(fā)周期大大縮短，僅僅9個(gè)月。這是因?yàn)樵撔酒谠O(shè)計(jì)初期就采用了顛覆性的設(shè)計(jì)思路，芯片內(nèi)部通信采用了NetSpeed Systems公司基于人工智能的拓?fù)浣Y(jié)構(gòu)。

無獨(dú)有偶，高通、Intel、亞馬遜，以及中國的AI領(lǐng)軍企業(yè)百度、寒武紀(jì)和地平線機(jī)器人也采用了這種創(chuàng)新的片內(nèi)互連方案。為什么這一設(shè)計(jì)理念會(huì)受到眾多AI公司的青睞?NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘向21ic記者介紹了最新發(fā)布的SoC片內(nèi)互連方案Orion AI及其優(yōu)勢。

圖：NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘

人工智能技術(shù)在視頻、語音、預(yù)測、機(jī)器人及自動(dòng)駕駛等應(yīng)用中越來越廣泛。黃啓弘表示，

這些熱門的AI應(yīng)用已經(jīng)對(duì)處理能力提出進(jìn)階需求，需要TB/s量級(jí)的帶寬。芯片內(nèi)部上千個(gè)運(yùn)算單元，會(huì)達(dá)到甚者超過512位的位寬，這些對(duì)工程師設(shè)計(jì)SoC架構(gòu)帶來了巨大的挑戰(zhàn)。這時(shí)候，就需要打破傳統(tǒng)的設(shè)計(jì)思路，借助人工智能算法幫助工程師化繁為簡。

Orion AI片內(nèi)互連方案應(yīng)運(yùn)而生。Orion AI基于NetSpeed經(jīng)過驗(yàn)證的Orion IP，提供了以人工智能為核心的設(shè)計(jì)方法，在芯片內(nèi)部采用點(diǎn)對(duì)點(diǎn)通信，通過大型矩陣乘法，幫助工程師尋找到最佳解決方案，顯著節(jié)省了開發(fā)時(shí)間。“在SoC架構(gòu)設(shè)計(jì)的最初，工程師就可以把系統(tǒng)需求提供給Orion AI，NetSpeed的圖靈機(jī)器學(xué)習(xí)引擎將通過神經(jīng)網(wǎng)路進(jìn)行多次的學(xué)習(xí)迭代，不斷優(yōu)化，最終得到符合系統(tǒng)需求的最佳設(shè)計(jì)。”黃啓弘表示，“工程師們不必再為思考系統(tǒng)內(nèi)部數(shù)據(jù)交換的主從關(guān)系等耗費(fèi)大量寶貴的時(shí)間，而能用更多的精力進(jìn)行創(chuàng)新設(shè)計(jì)。如果系統(tǒng)需求要更改或進(jìn)一步提升，Orion AI也可以提供持續(xù)的設(shè)計(jì)反饋。”

圖：Orion AI在神經(jīng)網(wǎng)絡(luò)上多次迭代得到最佳方案

基于人工智能的設(shè)計(jì)需要大量的計(jì)算單元，任意節(jié)點(diǎn)數(shù)據(jù)點(diǎn)對(duì)點(diǎn)的通信也需要極高的帶寬，這時(shí)候，Orion AI支持可配置多播的專利技術(shù)和先進(jìn)的QoS機(jī)制就顯得至關(guān)重要。Orion AI可以動(dòng)態(tài)控制下一點(diǎn)到多點(diǎn)的傳播，而且支持無需回傳的寫入信息模式，大大提高了效率。同時(shí)，Orion AI先進(jìn)的端到端帶寬分配控制和通信隔離與延遲控制機(jī)制使QoS得到保障。

圖：Orion AI具有模塊化、可擴(kuò)展的多層堆疊架構(gòu)

據(jù)介紹，Orion AI可實(shí)現(xiàn)極致性能，片上帶寬高達(dá)萬億位，并具備支持?jǐn)?shù)千計(jì)算引擎的底層架構(gòu)。它提供超寬數(shù)據(jù)通路，接口位寬高達(dá)1024位，內(nèi)部結(jié)構(gòu)位寬更高，并可支持高達(dá)4K字節(jié)的長突發(fā)傳輸。NetSpeed近日推出的SoCBuilder包含一個(gè)預(yù)集成的第三方IP目錄，以及針對(duì)人工智能、汽車電子、5G、超大規(guī)模計(jì)算和AR / VR等應(yīng)用的專用參考設(shè)計(jì)。采用SoCBuilder，SoC開發(fā)將更快速、更容易，更準(zhǔn)確，將系統(tǒng)搭建時(shí)間從數(shù)月或數(shù)周縮短到數(shù)天。

正如Linley Group首席分析師Linley Gwennap所說，有了Orion AI的幫助，“就像有一位隨時(shí)在線的建筑大師給出設(shè)計(jì)建議。”Orion AI 重新定義了SoC設(shè)計(jì)，使得SoC既面向人工智能應(yīng)用，本身也運(yùn)用人工智能技術(shù)，工程師可以采納圖靈的建議得到最優(yōu)架構(gòu)，用寶貴的時(shí)間去解決SoC設(shè)計(jì)中的其他難題。