邊緣AI和云計算兩手抓,Arm發(fā)布全新平臺路線圖
物聯(lián)網(wǎng)、5G和AI,被認(rèn)為是在數(shù)據(jù)驅(qū)動計算領(lǐng)域的第五次浪潮。在今年的Arm技術(shù)研討會上,Arm提出了一個目標(biāo):每年將處理器架構(gòu)的性能將提高15%。Arm IP產(chǎn)品事業(yè)群戰(zhàn)略副總裁Noel Hurley先生表示,Arm正在向高端的云計算的市場推進。同時我們也獲悉,目前90%的AI應(yīng)用都跑在Arm的架構(gòu)上面,邊緣計算是Arm一直以來的強勢領(lǐng)域,從邊緣計算到邊緣AI的轉(zhuǎn)變,也是Arm正在關(guān)注的焦點。
如何在云計算中心中爭取市場?如何從邊緣計算向邊緣AI邁進?在此次Arm技術(shù)研討會上,多個平臺的推出給了我們很好的解答。
Arm Neoverse:網(wǎng)絡(luò)基礎(chǔ)設(shè)施性能每年提升30%
Arm Neoverse是什么?根據(jù)Arm的官方介紹來看,這是一個從云端到邊緣基礎(chǔ)設(shè)施的基礎(chǔ),將適用于1T智能設(shè)備的世界。Arm公司高級副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Drew Henry介紹到:“Arm Neoverse其實是產(chǎn)品加上架構(gòu),同時也是產(chǎn)品與技術(shù)的整合,這樣的整合能夠去滿足新一代基礎(chǔ)設(shè)施的需求。”
據(jù)Drew先生介紹,本地服務(wù)器類型的市場正在消亡,整個市場正在向云服務(wù)器轉(zhuǎn)型。未來服務(wù)器市場的主要玩家將會是云服務(wù)提供商。而服務(wù)器要上云呢,會對于工作負(fù)載有一些堆積;GPU特長在于做一些深度學(xué)習(xí)的工作,TPU特長在于數(shù)據(jù)解讀的工作?,F(xiàn)有處理器可能不能很好地解決服務(wù)器上云的工作負(fù)載問題,需要全新的處理器來幫助處理工作負(fù)載,Arm會提供網(wǎng)絡(luò)存儲的安全處理器來幫助解決這一問題。
在云服務(wù)器上,數(shù)據(jù)可能碎片化存在,在數(shù)據(jù)的獲取、處理和轉(zhuǎn)移的過程中,都需要確保安全;這種全新的數(shù)據(jù)分布形式需要一種全新的處理器來支持。雖然在網(wǎng)絡(luò)基礎(chǔ)設(shè)施(包括網(wǎng)關(guān)、路由、基站、服務(wù)器、開關(guān))這邊,根據(jù)IDC和Arm的數(shù)據(jù)顯示,Arm已經(jīng)是第一大市場份額占有者,但是云數(shù)據(jù)中心的增長仍然勢頭強勁,Arm也非常關(guān)注這一高增長市場的投入。
目前在網(wǎng)絡(luò)基礎(chǔ)設(shè)施這邊,Arm的主要產(chǎn)品平臺是Cosmos,其中包含A72和A75等產(chǎn)品。Arm已經(jīng)發(fā)布了其產(chǎn)品路線圖,如上圖所示,明年將會啟用新的Ares平臺,然后相繼會是Zeus平臺、Poseidon平臺。承諾將會每年將處理性能和特性提高30%。
ML計算平臺:實現(xiàn)邊緣AI
微控制器廠商最近幾年一直在強調(diào)一個概念叫做邊緣計算,許多工作其實不需要上云,在設(shè)備端的微控制器上實現(xiàn)處理即可,快速高效的反饋給使用者的體驗會更好。而隨著AI應(yīng)用的興起,在設(shè)備端直接處理一些機器學(xué)習(xí)的工作也會提高整體反饋效率,降低對于網(wǎng)絡(luò)的倚賴,實現(xiàn)即時響應(yīng)。
Arm因此啟動了一項叫做Project Trillium的計劃,旨在全部的Arm架構(gòu)上實現(xiàn)設(shè)備端的機器學(xué)習(xí)的功能。Arm機器學(xué)習(xí)部門商業(yè)與市場副總裁Dennis Laudick表示,廣泛的硬件、優(yōu)化的軟件、標(biāo)準(zhǔn)化的框架,這就是Project Trillium。特別提到的是,Arm還會專門推出一個針對機器學(xué)習(xí)和物體識別的架構(gòu)——ML架構(gòu)。通過一系列的優(yōu)化,來更好地實現(xiàn)數(shù)據(jù)管理功能。
ML架構(gòu)的主要參數(shù)可以參見上圖,將會提供16個計算引擎,超過4TOP/s的卷積吞吐量。功耗方面計劃每瓦達(dá)到4TOP以上的卷積吞吐量。搭載1MB的SRAM,支持安卓NNAPI和ARMNN。
Dennis先生表示,Project Trillium計劃在機器學(xué)習(xí)方面的提升,涉及到了整個Arm的架構(gòu),比如說從Cortex-A,我們有10倍的機器學(xué)習(xí)功能的提升。在Cortex-M上,基本上這個提升也會達(dá)到4到6倍。GPU上也進行了相應(yīng)的提升。實現(xiàn)機器學(xué)習(xí),不應(yīng)該局限于某個特別針對其優(yōu)化的硬件平臺,應(yīng)該在寬泛的硬件平臺上都可以實現(xiàn)AI功能。
在今年的Arm技術(shù)研討會上,我們聽到了很多新的平臺、新的開發(fā)代號,新的產(chǎn)品規(guī)劃。Arm正在推動第五次數(shù)據(jù)計算浪潮,擴大自己的云計算市場份額,并在邊緣計算中強化AI功能,幫助我們快步向AI無處不在邁進。