Arm亮相COMPUTEX 2024:預計2025年底超過1000億臺Arm設備可用于AI
憑借Arm CSS和KleidiAI等技術創(chuàng)新,Arm首席執(zhí)行官Rene Haas預計,到2025年底,將有超過1,000億臺基于Arm架構設備可用于AI。
在COMPUTEX 2024展前,Arm首席執(zhí)行官Rene Haas分享了公司將如何實現到2025年底讓超過1,000億臺基于Arm架構設備可用于從云端到邊緣側的人工智能(AI)。
我們有足夠的能源來支持AI嗎?
Haas回應的關鍵問題之一在于,全球是否有足夠多的能源來滿足日益增長的AI計算需求。AI領域已涌現出諸多卓越創(chuàng)新,然而行業(yè)正面臨一個兩難境地,即處理器越能更好地處理AI的性能要求,其能源需求也隨之增大。
Arm的DNA誕生于面向使用電池的設備。Haas認為,正因如此,亞馬遜云科技(AWS)、谷歌(Google)和微軟(Microsoft)等主流云服務提供商才會越來越多地采用Arm架構。他還談到,Arm是世界上最具能效的CPU,所節(jié)約的能耗推動了令人驚嘆的AI創(chuàng)新。
軟件至關重要
在30余年的公司歷史中,Arm以領先的能效最為人所知,也是使其成為全球應用最普及的計算平臺的根基。不僅于此,Haas還進一步指出,真正讓Arm與眾不同的是無可比擬的軟件生態(tài)系統(tǒng)。
正如Haas所言,Arm已成為世界上各類主要操作系統(tǒng)的選擇。微軟近期發(fā)布的AI PC就是一個很好的例子,其中最常用的應用現在均可在Windows on Arm(WoA)上原生運行。事實上,在擁有1,800萬軟件開發(fā)者的生態(tài)系統(tǒng)中,如今在Arm CPU上進行設計的開發(fā)者比在其他任何處理器上都要多。
如果我們想體驗AI所能釋放的社會變化,從邊緣側最微小的設備到云端訓練和推理,開發(fā)者支持至關重要。開發(fā)者需要能夠利用AI進行創(chuàng)新,并使其以高性能、功耗優(yōu)化、高度可執(zhí)行和可預測的狀態(tài)在硬件上運行。
為了確保在Arm計算平臺上實現這一點,Haas介紹了新推出的Arm KleidiAI,其包含于一套新的AI計算庫中,使開發(fā)者能夠更輕松地在Arm平臺上運行他們的AI應用。Haas補充道:“在Arm過去30多年的發(fā)展中我們切實學到,為開發(fā)者提供所能獲取的資源,與硬件同等重要,否則硬件也無法發(fā)揮其作用。”
例如,當開發(fā)者在TensorFlow、PyTorch、Llama 3和MediaPipe等框架中處理他們的模型時,KleidiAI使他們能夠進入抽象層并利用AI工作負載的底層硬件功能來充分發(fā)揮其性能潛力。
從生態(tài)系統(tǒng)角度而言,KleidiAI也深具優(yōu)勢,現場Haas分享了來自三星、Meta和谷歌高管的視頻,他們各自講述了Arm和KleidiAI將如何助力他們在多個市場加速Arm平臺上的AI創(chuàng)新。
Arm終端CSS
除了Arm賦能AI開發(fā)者生態(tài)系統(tǒng)所做的出色工作外,Arm將持續(xù)提供更高性能、更具能效的產品。Arm高級副總裁兼終端事業(yè)部總經理Chris Bergey現場分享了更多關于產品方面的信息,介紹了上周發(fā)布的Arm終端計算子系統(tǒng)(CSS)。
這是Arm首次交付基于前沿的三納米工藝節(jié)點的Arm CPU和GPU物理實現。Bergey強調了其重要性,Arm生態(tài)系統(tǒng)現在可以利用經驗證、基于領先的三納米工藝節(jié)點的CPU和GPU物理實現,并更快、更有信心地將產品推向市場。
Arm終端CSS使芯片制造商能夠專注于打造平臺的差異化,以及切實考慮Armv9架構將如何賦能其新一代產品。與此同時,通過將終端CSS與KIeidiAI相結合,開發(fā)者將擁有充分利用這些下一代硬件技術所需的工具。
最后,Haas再次強調,Arm通過提供全球最完整的計算平臺,致力于AI技術的發(fā)展。憑借Arm CSS和KleidiAI等技術創(chuàng)新,他預計到2025年底,將有超過1,000億臺基于Arm架構的設備可用于AI。實現這一令人驚嘆的數量不僅將會重塑這個行業(yè),更是會重塑整個地球。