存儲(chǔ)器廠聚焦CXL存儲(chǔ)器擴(kuò)充器產(chǎn)品，以突破AI/ML 服務(wù)器 DRAM硬件限制

Oct. 11, 2022 ---- 據(jù)TrendForce集邦咨詢最新服務(wù)器相關(guān)報(bào)告指出，CXL(Compute Express Link)原是希望能夠整合各種xPU之間的性能，進(jìn)而優(yōu)化AI與HPC所需要的硬件成本，并突破原先的硬件限制。CXL的支援仍是以CPU為源頭去考慮，但由于可支援CXL功能的服務(wù)器CPU Intel Sapphire Rapids與AMD Genoa現(xiàn)階段僅支援至CXL 1.1規(guī)格，而該規(guī)格可先實(shí)現(xiàn)的產(chǎn)品則是CXL存儲(chǔ)器擴(kuò)充(CXL Memory Expander)。因此，TrendForce認(rèn)為，在各種CXL相關(guān)產(chǎn)品內(nèi)，CXL存儲(chǔ)器擴(kuò)充將成為前驅(qū)產(chǎn)品，其產(chǎn)品也與DRAM最為相關(guān)。

CXL存儲(chǔ)器池化功能助攻，AI與HPC可望突破硬件限制，并帶動(dòng)服務(wù)器整機(jī)DRAM用量

不過，目前CXL 1.1對DRAM來講，僅為存儲(chǔ)器擴(kuò)充的實(shí)踐，要到CXL 2.0才會(huì)實(shí)現(xiàn)存儲(chǔ)器池化(memory pooling)。以現(xiàn)階段而言，以雙插槽CPU服務(wù)器整機(jī)的平均RDIMM使用量約為10-12條(最多為16條)，意即RDIMM插槽與通道數(shù)尚未全數(shù)使用，故以短期而言，一般的computing 服務(wù)器仍可憑借升級原有的RDIMM，而僅有需要AI與HPC的應(yīng)用才會(huì)有CXL需求。TrendForce集邦咨詢研判，CXL存儲(chǔ)器擴(kuò)充器的用量對于DRAM整體市場的影響度有限，短期內(nèi)是用以優(yōu)化HPC的性能而產(chǎn)生的產(chǎn)品。

但在現(xiàn)有的應(yīng)用下，服務(wù)器整機(jī)上的DRAM在運(yùn)行中仍會(huì)有閑置而未被使用的容量，這也使得數(shù)據(jù)中心業(yè)者要支付多余的DRAM成本。以長期而言，隨著更多元化及更復(fù)雜性的應(yīng)用，服務(wù)器整機(jī)的DRAM平均搭載容量會(huì)呈現(xiàn)逐年增長的趨勢，但未來若實(shí)踐CXL存儲(chǔ)器池化的情境下，可使得xPU內(nèi)的存儲(chǔ)器資源可有效被運(yùn)用。TrendForce集邦咨詢認(rèn)為，CXL存儲(chǔ)器池化功能將會(huì)收斂買方采購的RDIMM模塊的需求用量，使得后續(xù)年對年間的服務(wù)器 DRAM單機(jī)搭載容量增速趨緩。

CXL聯(lián)盟最終希望通過該界面使得各裝置的資源有效運(yùn)用，進(jìn)而突破AI與HPC的硬件瓶頸。在CXL的協(xié)助下，AI與HPC發(fā)展隨著模型復(fù)雜度的增加，將會(huì)助力相關(guān)機(jī)種的出貨量。因此，由這個(gè)觀點(diǎn)來看，CXL會(huì)帶動(dòng)服務(wù)器整機(jī)的DRAM(亦即合并RDIMM與CXL存儲(chǔ)器擴(kuò)充器計(jì)算)平均搭載容量;但以服務(wù)器上DRAM用量的年成長速度而言，則會(huì)因?yàn)镃XL可有效率地使用整機(jī)DRAM，而使成長率趨緩。

而會(huì)大量需要CXL功能的買方以高階運(yùn)算機(jī)種為主，因此云端服務(wù)供應(yīng)商會(huì)是主要的用戶。TrendForce集邦咨詢亦觀察到部分OEM對其HPC運(yùn)算客戶出貨的機(jī)種，也有需要大容量DRAM擴(kuò)充之需求，同樣將為該產(chǎn)品的潛在采用者。

Montage、Marvell、Microchip營收有望受CXL崛起再攀升

目前原廠開發(fā)的CXL存儲(chǔ)器擴(kuò)充器使用的是DDR5，不過現(xiàn)階段仍受PCIe 5.0接口速度局限，釋出速度僅略等同于DDR4。未來一旦CPU支援到PCIe 6.0亦或是更高的規(guī)格，則足以使DDR5發(fā)揮完整的速度。以CXL存儲(chǔ)器擴(kuò)充器結(jié)構(gòu)來看，除了DRAM外，需搭配一顆CXL控制器((CXL controller))，其廠商有Montage、Marvell與Microchip等，故CXL的崛起不但能直接帶動(dòng)控制器供應(yīng)商的營收外，也不排除未來可能出現(xiàn)類似模組廠亦或是云端服務(wù)供應(yīng)商自研的模式，配套控制器與DRAM后而生產(chǎn)CXL存儲(chǔ)器擴(kuò)充器。

綜上所述，現(xiàn)階段服務(wù)器性能停滯可望因CXL的發(fā)展獲改善，將有效提高DRAM在服務(wù)器上的使用，免于閑置成本的增加。而未來CXL2.0規(guī)范將可改變現(xiàn)有的硬件瓶頸，并在存儲(chǔ)器池化的協(xié)助下，CXL將可以發(fā)揮更大優(yōu)勢。而隨著更多元化及更復(fù)雜性的應(yīng)用，HPC與AI等高強(qiáng)度運(yùn)算對于xPU仰賴更勝于以往。在存儲(chǔ)器池化的共享下，模型的設(shè)計(jì)能擺脫硬件瓶頸，持續(xù)往更復(fù)雜的架構(gòu)建設(shè)。此外，CXL導(dǎo)入將隨著未來功能強(qiáng)度而普及化，尤其在云端業(yè)務(wù)大規(guī)模導(dǎo)入在產(chǎn)業(yè)中，此規(guī)范更能優(yōu)化服務(wù)器之間的溝通，因CXL建立彼此間溝通的高速互連性，兩者交互有助于擴(kuò)展服務(wù)器平行間運(yùn)算力應(yīng)用與優(yōu)化總體擁有成本(Total Cost of Ownership，TCO)。