1530 億晶體管!AMD 全新 AI 芯片欲單殺英偉達
據(jù)業(yè)內(nèi)信息報道,昨天在美國舊金山舉行的數(shù)據(jù)中心與人工智能技術(shù)發(fā)布會上,AMD 正式發(fā)布了新一代的面向 AI 及 HPC 領(lǐng)域的 GPU 產(chǎn)品 Instinct MI 300 系列,欲在 AI 芯片領(lǐng)域單殺英偉達。
其中,MI300A 集成了 1460 億個晶體管,MI300X 更是集成了高達 1530 億個晶體管,支持 192 GB 的 HBM3內(nèi)存,幾乎前面碾壓了英偉達的 H100 芯片。此外 AMD 也推出了面向數(shù)據(jù)中心的第四代的 Epyc 產(chǎn)品。
AMD CEO蘇姿豐認為,生成式 AI 和大語言模型(LLM)需要電腦的算力和內(nèi)存大幅提高。預(yù)計今年,數(shù)據(jù)中心 AI 加速器的市場將達到 300 億美元左右,到 2027 年將超過 1500億美元,復(fù)合年增長率超過 50%。這意味著未來四年的 CAGR 將會超過 50%。
正是基于 AI 加速器市場的龐大需求和高速增長趨勢,AMD 順勢推出了 Instinct MI300 系列,此次發(fā)布的包括 MI300A 和 MI300X。
MI300A 采用 Chiplet 設(shè)計,內(nèi)部集成了 13 個小芯片,均基于臺積電 5nm/6nm 制程工藝(CPU/GPU 計算核心為 5nm,HBM 內(nèi)存和 I/O 等為 6nm),其中許多是 3D 堆疊的,以便創(chuàng)建一個面積可控的單芯片封裝,總共集成 1460 億個晶體管。
針對LLM進行優(yōu)化的 MI300X 內(nèi)部更是集成了12個 5nm/6nm 制程工藝的小芯片(HMB和 I/O 為 6nm),擁有 1530 億個晶體管,內(nèi)核設(shè)計放棄了 APU 的 24 個 Zen4 內(nèi)核和 I/O 芯片采用 CDNA 3 GPU 和更大的 192GB HBM3 內(nèi)存,帶來高達 5.2TB/s 的帶寬和896GB/s的Infinity Fabric帶寬。
AMD表示 MI300X 提供的 HBM 密度是英偉達最新芯片 H100 的 2.4 倍,HBM帶寬最高可達 H100 的 1.6 倍,MI300X 減少了 CPU 和 GPU 之間的數(shù)據(jù)移動使得功耗和延遲大大降低,可以運行比英偉達 H100 芯片更大的模型。
AMD在此次發(fā)布會上還對第四代 EPYC 處理器家族進行了更新,包括面向云原生計算的“Bergamo”系列新產(chǎn)品以及代號為 Genoa-X 的第四代 EPYC 3D V-Cache CPU 等。而且本次 AMD 總裁 Victor·Peng 表示要在開發(fā)軟件生態(tài)系統(tǒng)上努力。