Arm Neoverse路線圖再添新員：持續(xù)賦能計(jì)算基礎(chǔ)設(shè)施新變革

近年來，以5G為代表的數(shù)字化轉(zhuǎn)型引發(fā)了一系列數(shù)據(jù)爆炸，導(dǎo)致人們對(duì)計(jì)算能力和數(shù)據(jù)存儲(chǔ)的需求日益增長(zhǎng)。這一變革對(duì)全球計(jì)算基礎(chǔ)設(shè)施的發(fā)展，特別是對(duì)云計(jì)算的處理能力提出了更高的要求。

為了應(yīng)對(duì)海量數(shù)據(jù)挑戰(zhàn)，近日Arm對(duì)Arm® Neoverse? 路線圖進(jìn)行了再次更新。據(jù)悉，新產(chǎn)品植根于Arm的可擴(kuò)展效率和技術(shù)領(lǐng)先地位，同時(shí)強(qiáng)化了Arm支持合作伙伴持續(xù)快速創(chuàng)新的承諾，旨在實(shí)現(xiàn)高性能、高能效和可持續(xù)的云計(jì)算，滿足企業(yè)IT與數(shù)據(jù)中心不斷增長(zhǎng)的工作負(fù)載和不斷提升的性能需求。

為了讓大家全面地了解這一創(chuàng)新成果，近日在Arm技術(shù)媒體溝通會(huì)上，來自Arm公司的幾位高管對(duì)其進(jìn)行了詳細(xì)的介紹，并對(duì)最近一年的市場(chǎng)及業(yè)務(wù)進(jìn)行了簡(jiǎn)要總結(jié)。

堅(jiān)持創(chuàng)新驅(qū)動(dòng)，實(shí)現(xiàn)新的突破

據(jù)Arm高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Chris Bergey介紹，隨著新應(yīng)用的不斷涌現(xiàn)，如今的基礎(chǔ)設(shè)施都是定制化打造。從SSD到HDD，從DPU到視頻加速器，服務(wù)器CPU算是最后的標(biāo)準(zhǔn)產(chǎn)品，未來將不會(huì)作為通用型產(chǎn)品繼續(xù)發(fā)展。另外，功耗問題也不容小覷。通常大型互聯(lián)網(wǎng)公司的電力支出會(huì)占到總擁有成本（TCO）的30-40%，僅微次于電信網(wǎng)絡(luò)運(yùn)營(yíng)商。由于數(shù)據(jù)速率發(fā)展太過迅猛，計(jì)算工作負(fù)載正在極力增長(zhǎng)，而且愈加復(fù)雜。

“Arm Neoverse具有獨(dú)特定位，可以幫助我們的生態(tài)系統(tǒng)引領(lǐng)全球計(jì)算基礎(chǔ)設(shè)施的發(fā)展。”Chris Bergey指出，基礎(chǔ)設(shè)施的未來需要基于Arm Neoverse的高性能、高能效的計(jì)算基礎(chǔ)，還需要Arm生態(tài)系統(tǒng)所提供的專用處理和工作負(fù)載加速能力。為此，Arm更新了Arm Neoverse路線圖——推出Neoverse V2平臺(tái)（代號(hào)“Demeter”）。

▲Arm架構(gòu)是未來基礎(chǔ)設(shè)施的基石

據(jù)了解，此次Arm Neoverse新增的產(chǎn)品是基于“可擴(kuò)展效率、技術(shù)領(lǐng)先地位、快速的創(chuàng)新步伐、獨(dú)一無二的開發(fā)者社區(qū)的有力支持”四項(xiàng)關(guān)鍵原則所打造的。雖然目前Arm在獲得技術(shù)領(lǐng)導(dǎo)者的贊譽(yù)還不夠多，但也已創(chuàng)下了多項(xiàng)行業(yè)第一：

? 第一個(gè)總內(nèi)存帶寬超過每秒1TB的CPU；

? 第一個(gè)單塊裸片上能配置超過100個(gè)核心的CPU，核心數(shù)達(dá)到128個(gè)；

? 第一個(gè)將DDR5和PCIe Gen5.0推向市場(chǎng)的CPU；

? 第一個(gè)在SPEC CPU 2017基準(zhǔn)測(cè)試中打破500整型跑分的CPU。

▲Arm生態(tài)系統(tǒng)創(chuàng)下多項(xiàng)行業(yè)第一

除此之外，Arm Neoverse還在今年取得了若干具有里程碑意義的成就：

? 在全球范圍內(nèi)，Arm現(xiàn)已被用于各個(gè)主要公有云，包括AWS、微軟、谷歌、阿里巴巴、甲骨文等科技巨頭。這意味著，世界各地的每一位開發(fā)者都可獲取Arm Neoverse。

? Arm在5G RAN領(lǐng)域無處不在，比如在2022世界移動(dòng)通信大會(huì)（MWC）上，Arm的合作伙伴Marvell與戴爾宣布強(qiáng)強(qiáng)聯(lián)手，而高通也與樂天、HPE達(dá)成了合作。他們攜手諾基亞、聯(lián)想、三星等公司，正在醞釀許多更加激動(dòng)人心的項(xiàng)目。

? NVIDIA發(fā)布了面向AI及高性能計(jì)算（HPC）的Grace。

? Arm正逐步邁入更為傳統(tǒng)的“企業(yè)”領(lǐng)域。比如VMware運(yùn)用DPU開展Monterrey項(xiàng)目；RedHat的OpenShift支持Arm架構(gòu)；SAP HANA正將其云基礎(chǔ)設(shè)施遷移到AWS Graviton上；6月份HPE推出了ProLiant第11代平臺(tái)，搭載了基于Arm Neoverse的Ampere Altra處理器。

▲Arm生態(tài)系統(tǒng)的勢(shì)頭正在加速

“隨著今天Neoverse路線圖又添新品，我們已經(jīng)準(zhǔn)備就緒，并堅(jiān)信Arm架構(gòu)是未來基礎(chǔ)設(shè)施的基石?！盋hris Bergey表示。

豐富產(chǎn)品矩陣，助力行業(yè)前行

多年來，Arm一直致力于開發(fā)和增強(qiáng)AMBA CHI，這是實(shí)現(xiàn)高速、低延遲的芯片到芯片通信的重要協(xié)議。然而，隨著應(yīng)用需求和技術(shù)發(fā)展，各種規(guī)模與各個(gè)垂直領(lǐng)域的企業(yè)都開始擁抱人工智能（AI）和機(jī)器學(xué)習(xí)（ML）。大家渴望利用人工智能進(jìn)行大數(shù)據(jù)分析，以識(shí)別商業(yè)趨勢(shì)，同時(shí)改善服務(wù)和產(chǎn)品。

作為一家芯片架構(gòu)的領(lǐng)先供應(yīng)商，Arm自然也不例外。從2018年推出面向基礎(chǔ)設(shè)施市場(chǎng)的全新獨(dú)立品牌Arm Neoverse，至今，Arm對(duì)其進(jìn)行了多次更新，而Neoverse也迅速被采用。現(xiàn)如今，所有主要的公有云都提供基于Neoverse的實(shí)例。為了不斷提升計(jì)算和處理性能，這些年Arm更是投入了大量精力來思考如何為該領(lǐng)域打造解決方案。

據(jù)Arm基礎(chǔ)設(shè)施事業(yè)部產(chǎn)品解決方案副總裁Dermot O’Driscoll介紹，多年來，我們一直在努力實(shí)現(xiàn)并優(yōu)化在Arm架構(gòu)上運(yùn)行的全棧解決方案。從架構(gòu)和IP，到技術(shù)庫(kù)、運(yùn)行環(huán)境和編譯器，我們已經(jīng)啟用了多個(gè)基礎(chǔ)設(shè)施軟件來提取最大性能。

▲Arm軟件生態(tài)系統(tǒng)

為了進(jìn)一步推動(dòng)云工作負(fù)載性能，此次Arm推出的Neoverse V2平臺(tái)配備了最新的V系列核心和產(chǎn)業(yè)廣泛部署的Arm CMN-700 mesh互連技術(shù)。Neoverse V2將為云和HPC工作負(fù)載提供市場(chǎng)領(lǐng)先的整型性能，并引入若干Armv9架構(gòu)安全增強(qiáng)功能。

與此同時(shí)，作為Arm持續(xù)投入于高效的性能和高效的吞吐量的一部分，新一代N系列產(chǎn)品也在開發(fā)之中，并計(jì)劃將于2023年推出。據(jù)Dermot O’Driscoll透露，與N2的市場(chǎng)領(lǐng)先效率相比，新一代N系列CPU將在性能和效率方面實(shí)現(xiàn)代際提升。

除此之外，Arm還推出了Neoverse E2平臺(tái)，通過結(jié)合Arm Cortex®-A510 CPU與可擴(kuò)展的Neoverse CMN-700和N2系統(tǒng)背板，可使條件相對(duì)受限的應(yīng)用也能充分利用諸如可擴(kuò)展的核心數(shù)量范圍、Arm SystemReady? 兼容性，以及PCIe、CXL、IO和接口等云技術(shù)。

▲Arm Neoverse路線圖

在Dermot O’Driscoll看來，云基礎(chǔ)設(shè)施市場(chǎng)的下一個(gè)發(fā)展趨勢(shì)就是機(jī)器學(xué)習(xí)（ML）。“就像Java在如今的云工作負(fù)載中占據(jù)大比例一樣，ML正逐漸成為未來的首選工作負(fù)載。在ML中，我們可以對(duì)BERT實(shí)現(xiàn)同樣的啟用”。

據(jù)悉，Arm的V1核心擁有一組專門用于增強(qiáng)ML應(yīng)用程序性能的功能：

? 在架構(gòu)方面，添加了Bfloat16（BF16）；

? Arm調(diào)整了V1、N2以及后續(xù)設(shè)計(jì)的微架構(gòu)，旨在通過BERT提高BF16的執(zhí)行；

? 為Arm計(jì)算庫(kù)（ACL）增加BF16支持；

? 將ACL集成到oneDNN ML框架中；

? oneDNN框架與Tensorflow搭配使用以運(yùn)行BERT。

值得一提的是，在V1添加的BF16和Int8 MatMul，意味著ML模型可以更緊湊地植入內(nèi)存，因此它們需要更少的內(nèi)存帶寬，從而使Graviton3的ML性能達(dá)到Graviton2的3倍。

▲Arm Neoverse引領(lǐng)未來云計(jì)算新浪潮

“總體來說，得益于我們與客戶在其未來設(shè)計(jì)需求上的緊密合作，目前Neoverse平臺(tái)解決方案在云、無線網(wǎng)絡(luò)用例中均受到了市場(chǎng)青睞。對(duì)此，我們感到十分自豪?！盌ermot O’Driscoll談道，以Neoverse V2平臺(tái)為例，目前我們收到的反饋包括“希望提升云工作負(fù)載的性能”、“在平衡功耗和面積的同時(shí)繼續(xù)推進(jìn)單線程性能”以及“盡早發(fā)貨，幫助我們快速開拓市場(chǎng)”等。

除此之外，客戶還想要特定于Armv9的安全功能和極具競(jìng)爭(zhēng)力的系統(tǒng)平臺(tái)，以幫助他們能夠在激烈的CPU市場(chǎng)中脫穎而出。“就滿足云和AI市場(chǎng)的現(xiàn)階段需求而言，我們認(rèn)為Neoverse V2表現(xiàn)十分出色，而市場(chǎng)對(duì)Arm Neoverse平臺(tái)的采納和接受度也是非常高的”。Dermot O’Driscoll如是說。

▲Arm Neoverse V2平臺(tái)的特點(diǎn)與優(yōu)勢(shì)

當(dāng)前，全球計(jì)算基礎(chǔ)設(shè)施市場(chǎng)正在被重新定義?；凇翱蓴U(kuò)展效率、技術(shù)領(lǐng)先地位、快速的創(chuàng)新步伐，以及獨(dú)一無二的開發(fā)者社區(qū)的有力支持”四項(xiàng)關(guān)鍵原則，未來Arm將持續(xù)推動(dòng)圍繞計(jì)算基礎(chǔ)設(shè)施的生態(tài)系統(tǒng)發(fā)生重大變化。

正如Dermot O’Driscoll所言：“在Arm Neoverse平臺(tái)路線圖的原則基礎(chǔ)上，我們將為全球計(jì)算基礎(chǔ)設(shè)施奠定新的起點(diǎn)。”