英特爾發(fā)布全新邊緣平臺(tái)，充分滿足企業(yè)AI部署需求

英特爾發(fā)布兩款全新芯片——Sierra Forrest 和 Granite Rapids-D，還宣布一個(gè)全新邊緣平臺(tái)全面上市。這些產(chǎn)品旨在滿足運(yùn)營(yíng)商和企業(yè)在可持續(xù)發(fā)展和AI方面的需求。

英特爾一亮相MWC，就立即打出了一套軟硬件組合拳，旨在滿足5G和邊緣部署對(duì)可持續(xù)發(fā)展和AI的需求。

硬件領(lǐng)域更新

我們從硬件看起，這里有兩個(gè)值得關(guān)注的重要消息。首先，英特爾發(fā)布了用于5G核心網(wǎng)的至強(qiáng)處理器 Sierra Forest，該處理器將于2024年面世，與上一代芯片相比，單機(jī)架性能提高2.7倍。

拋開營(yíng)銷上的噱頭不談，英特爾公司副總裁兼有線與核心網(wǎng)部門總經(jīng)理Alex Quach告訴記者，“這實(shí)際上是為了減少機(jī)架的數(shù)量，降低將數(shù)據(jù)中心帶到邊緣所需的能耗?！?

但這是怎么做到的?根據(jù)Alex Quach的說(shuō)法，Sierra Forrest充分利用了英特爾基礎(chǔ)設(shè)施電源管理器(Intel Infrastructure Power Manager)軟件，該軟件可使芯片在任意特定時(shí)間內(nèi)，根據(jù)流量需求，動(dòng)態(tài)地改變電源狀態(tài)(即活躍狀態(tài)與空閑狀態(tài))。這改變了以往做法，即將芯片設(shè)置為始終以最大功率運(yùn)行。

Alex Quach說(shuō)，到目前為止，性能一直是服務(wù)提供商的首要標(biāo)準(zhǔn)。但隨著電力成本和限制的增加，以及越來(lái)越多的服務(wù)器向邊緣遷移，運(yùn)營(yíng)商越來(lái)越重視降低能耗。

這就是電源管理器可以一展所長(zhǎng)的地方。自2021年發(fā)布Ice Lake以來(lái)，英特爾芯片就具備了電源管理器功能。Alex Quach說(shuō)，從那時(shí)起，英特爾就一直在努力通過(guò)減少改變狀態(tài)所需的時(shí)間，來(lái)不斷提高功耗性能。他說(shuō)，Sierra Forrest這樣的芯片現(xiàn)在可以在納秒級(jí)的時(shí)間內(nèi)，從2.1 GHz的功率降至800 MHz，而無(wú)需更多步驟。如果與主要電信供應(yīng)商的商業(yè)應(yīng)用軟件搭配使用，電源管理器可以在運(yùn)行時(shí)為核心網(wǎng)節(jié)省高達(dá)30%的能耗。再加上更多的處理器內(nèi)核(Sierra Forrest有288個(gè)內(nèi)核)，這就是Sierra Forrest性能和功耗改進(jìn)的原因。

第二個(gè)硬件相關(guān)的新聞是關(guān)于英特爾下一代處理器Granite Rapids-D，該處理器內(nèi)置AI功能和英特爾虛擬無(wú)線接入網(wǎng)絡(luò)(vRAN)加速功能，將于2025年面世。英特爾表示，目前這款芯片已經(jīng)在提供樣品，其中三星和愛立信已經(jīng)采用了該芯片。

在邊緣進(jìn)行推理

在軟件方面，英特爾發(fā)布了全新邊緣平臺(tái)(EdgePlatform)。更準(zhǔn)確地說(shuō)，它是一個(gè)位于服務(wù)器上的模塊化軟件抽象層，可通過(guò)儀表板實(shí)現(xiàn)基礎(chǔ)架構(gòu)管理、工作負(fù)載優(yōu)化和AI開發(fā)功能。具體來(lái)說(shuō)，基于英特爾OpenVINO工具套件的AI功能，主要面向推理用例，而非模型訓(xùn)練。

如果這一切聽起來(lái)似曾相識(shí)，那是因?yàn)橛⑻貭栐?023年9月發(fā)布了該平臺(tái)，當(dāng)時(shí)它被稱為Project Strata。

英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部軟件工程總經(jīng)理Pallavi Mahajan在新聞發(fā)布會(huì)上指出，在云中部署AI與在邊緣部署AI有很大不同。這是因?yàn)檫吘壍挠布?、軟件和操作系統(tǒng)種類繁多，功率和空間有限。她補(bǔ)充說(shuō)，該平臺(tái)旨在應(yīng)對(duì)所有這些挑戰(zhàn)，讓服務(wù)提供商和企業(yè)都能更輕松地部署邊緣AI。

Futurum Group研究總監(jiān)Ron Westfall表示，該平臺(tái)直接解決了"采用和擴(kuò)展AI的主要痛點(diǎn)"。這與全行業(yè)的趨勢(shì)是一致的，即：企業(yè)管理的數(shù)據(jù)越來(lái)越多地在數(shù)據(jù)中心或云之外進(jìn)行處理。Ron Westfall說(shuō)：“對(duì)于保持生成數(shù)據(jù)私密性以及保護(hù)所有有價(jià)值知識(shí)產(chǎn)權(quán)的需求，在本地處理數(shù)據(jù)可以確保企業(yè)遵守相關(guān)法律法規(guī)?！?

如果你相信J.Gold Associates公司負(fù)責(zé)人、分析師JackGold的言論，那么該平臺(tái)可能會(huì)產(chǎn)生巨大影響，因?yàn)?現(xiàn)在可能有85%以上的核心網(wǎng)和RAN系統(tǒng)已經(jīng)基于英特爾硬件運(yùn)行，而這個(gè)平臺(tái)是一款極具吸引力，且與現(xiàn)有系統(tǒng)兼容的邊緣系統(tǒng)部署方案。"此外，Jack Gold認(rèn)為，80%至90%的AI工作負(fù)載最終將是推理而非訓(xùn)練。

基本上，數(shù)據(jù)中心目前主要承擔(dān)AI訓(xùn)練任務(wù)，但AI將越來(lái)越多地轉(zhuǎn)移到邊緣。Jack Gold總結(jié)道：“因此，邊緣系統(tǒng)必須經(jīng)過(guò)優(yōu)化，這樣才能處理推理工作負(fù)載。