AI芯片應(yīng)該有的樣子:并不是與“云”相連
隨著人工智能風(fēng)潮的興起,AI芯片應(yīng)該具備什么樣的功能就成為了一個新的研究方向。咨詢機構(gòu)對人工智能的趨勢做出了判斷,在未來人工智能的市場上12%的比例的資金將用在人工智能芯片上。因此人工智能芯片是一個極其重大的市場,會帶來極其重要的機會。異構(gòu)智能創(chuàng)始人兼CEO吳韌博士向21IC小編展示了一個敢于打破常規(guī)的AI芯片應(yīng)該是這個樣子的。
三維張量卷積計算為終端添“智”
近年來,物聯(lián)網(wǎng)的概念席卷整個市場,凡事“觸網(wǎng)”大部分都能博得滿堂彩。所有的東西都可以連線到云端、手機都可以連起來。物聯(lián)網(wǎng)看起來可以魔術(shù)般的連起來,但實際如果打開看就發(fā)現(xiàn),要通過很多的海底光纜或者地下光纜來連接起來,是從分支道路到主干道連接的。主干道是國家資源,需要國家的投資才能持續(xù)擴大。物聯(lián)網(wǎng)接入數(shù)的增長是指數(shù)級增長,可能是4K或者8K攝像頭等。這種增長遠遠超過了主干道增長的速度。對此的解決方法就是,將人工智能的能力脫離云端,讓終端設(shè)備具有思考的能力。
吳韌博士認為:“把AI放在終端有兩方面難度,第一芯片要高性能,因為人工智能的計算很復(fù)雜,第二需要在小封裝的基礎(chǔ)上實現(xiàn)低功耗。異構(gòu)智能的做法是為人工智能做了極端定制化的芯片。這款芯片不會連接網(wǎng)絡(luò)或者進行一些其他的計算。它擅長的是在三維上做卷積張量的計算,把人工智能的計算加速,把人工智能應(yīng)用的計算做得比別人好。”
異構(gòu)智能采用三維張量的卷積計算,使得小立方體和大立方體重合的部分做點乘。而采用DSP、TPU、GPU等現(xiàn)有技術(shù)很難實現(xiàn)三維卷積計算。異構(gòu)智能采用新技術(shù)所研發(fā)的AI芯片具有四項專利進行全方位的保護——三維張量的卷積、對數(shù)據(jù)的調(diào)度與分配、歸并、處理器間的協(xié)作。異構(gòu)智能將芯片與算法從設(shè)計到實現(xiàn)為其他公司賦能,提供人工智能的能力。
根據(jù)工業(yè)自動駕駛和智能家居對數(shù)據(jù)計算能力的不同需求,異構(gòu)智能推出了四款芯片,28nm、16nm兩個版本,可以根據(jù)終端產(chǎn)品的需要,分為極端低功耗系列與極端計算能力系列。
不破不立,新技術(shù)應(yīng)該如何對接
異構(gòu)智能采用新技術(shù)推動了人工智能在本地實現(xiàn)的趨勢,通過其芯片、模型、超級計算機將模型脫離云端,帶到本地和終端,讓終端變得智能。超級計算機可以訓(xùn)練模型,讓模型和芯片進行配合,讓芯片最后可以做某一個模塊的功能。AI芯片要在本地實現(xiàn)操作就需要破而后立,相信也有人與21IC小編一樣會產(chǎn)生這樣的疑惑,采用了新技術(shù)的芯片在與現(xiàn)有終端產(chǎn)品對接上會出現(xiàn)什么問題嗎?
吳博士在現(xiàn)場為我們解了惑:“無疑,DSP具有先天的好處,向量化,指令集,對延時處理很好,但缺乏并行度和極限能力。TPU、GPU適用于二維計算,同樣缺乏計算極限能力。而異構(gòu)智能的AI芯片能夠滿足三維空間的計算,同時新款芯片將會兼容ARM的場景和MIPS的場景,可以應(yīng)對終端產(chǎn)品的應(yīng)用場景。”
全方位研發(fā)設(shè)計團隊讓AI芯片更可靠
眾所周知,現(xiàn)在電子產(chǎn)品大都基于28nm工藝技術(shù),在2017年9月異構(gòu)智能的28nm ASIC芯片進入流片階段,同時16nm和7nm芯片同步推進。異構(gòu)智能之所以可以采用最新的制成工藝支持新產(chǎn)品,其覆蓋了全棧整合優(yōu)化的研發(fā)設(shè)計團隊功不可沒。
吳博士表示:“公司人才積累豐厚,對最新技術(shù)的把控很有信心。中國做芯片的公司很多,軟件debug的代價不高,但芯片debyg的代價非常高,有沒有做過,或者有沒有負責(zé)過commercial芯片是一件很重要的事情。沒有完全管過一件事情會有很大的陷阱。經(jīng)過異構(gòu)智能數(shù)學(xué)家做的很多數(shù)學(xué)的分析,才能做一些事情。異構(gòu)智能目前的數(shù)學(xué)家獲得了運籌學(xué)領(lǐng)域類似于圖靈獎的獎。這些人讓公司不僅僅在計算,在算法和更上層有了非常多的積累。”
先鋒資本創(chuàng)始人廖志宇表示:“異構(gòu)智能現(xiàn)在已經(jīng)和HP合作,未來會進入世界五百強。目前國內(nèi)大部分廠商說設(shè)計一款芯片實際上都是獲得了其他公司的IP,然后組合起來,而異構(gòu)智能從基礎(chǔ)架構(gòu)的設(shè)想到實現(xiàn)都能夠獨立完。”
正如吳韌博士所言,面對智聯(lián)網(wǎng)的新要求,我們需要打掉原有的一些東西,從算法設(shè)計到芯片設(shè)計到仿真到布線,所有層面都要重新優(yōu)化。勇于打破,才生獲得新生。