1530 億晶體管!AMD 全新 AI 芯片欲單殺英偉達(dá)
據(jù)業(yè)內(nèi)信息報(bào)道,昨天在美國舊金山舉行的數(shù)據(jù)中心與人工智能技術(shù)發(fā)布會(huì)上,AMD 正式發(fā)布了新一代的面向 AI 及 HPC 領(lǐng)域的 GPU 產(chǎn)品 Instinct MI 300 系列,欲在 AI 芯片領(lǐng)域單殺英偉達(dá)。
其中,MI300A 集成了 1460 億個(gè)晶體管,MI300X 更是集成了高達(dá) 1530 億個(gè)晶體管,支持 192 GB 的 HBM3內(nèi)存,幾乎前面碾壓了英偉達(dá)的 H100 芯片。此外 AMD 也推出了面向數(shù)據(jù)中心的第四代的 Epyc 產(chǎn)品。
AMD CEO蘇姿豐認(rèn)為,生成式 AI 和大語言模型(LLM)需要電腦的算力和內(nèi)存大幅提高。預(yù)計(jì)今年,數(shù)據(jù)中心 AI 加速器的市場將達(dá)到 300 億美元左右,到 2027 年將超過 1500億美元,復(fù)合年增長率超過 50%。這意味著未來四年的 CAGR 將會(huì)超過 50%。
正是基于 AI 加速器市場的龐大需求和高速增長趨勢,AMD 順勢推出了 Instinct MI300 系列,此次發(fā)布的包括 MI300A 和 MI300X。
MI300A 采用 Chiplet 設(shè)計(jì),內(nèi)部集成了 13 個(gè)小芯片,均基于臺(tái)積電 5nm/6nm 制程工藝(CPU/GPU 計(jì)算核心為 5nm,HBM 內(nèi)存和 I/O 等為 6nm),其中許多是 3D 堆疊的,以便創(chuàng)建一個(gè)面積可控的單芯片封裝,總共集成 1460 億個(gè)晶體管。
針對(duì)LLM進(jìn)行優(yōu)化的 MI300X 內(nèi)部更是集成了12個(gè) 5nm/6nm 制程工藝的小芯片(HMB和 I/O 為 6nm),擁有 1530 億個(gè)晶體管,內(nèi)核設(shè)計(jì)放棄了 APU 的 24 個(gè) Zen4 內(nèi)核和 I/O 芯片采用 CDNA 3 GPU 和更大的 192GB HBM3 內(nèi)存,帶來高達(dá) 5.2TB/s 的帶寬和896GB/s的Infinity Fabric帶寬。
AMD表示 MI300X 提供的 HBM 密度是英偉達(dá)最新芯片 H100 的 2.4 倍,HBM帶寬最高可達(dá) H100 的 1.6 倍,MI300X 減少了 CPU 和 GPU 之間的數(shù)據(jù)移動(dòng)使得功耗和延遲大大降低,可以運(yùn)行比英偉達(dá) H100 芯片更大的模型。
AMD在此次發(fā)布會(huì)上還對(duì)第四代 EPYC 處理器家族進(jìn)行了更新,包括面向云原生計(jì)算的“Bergamo”系列新產(chǎn)品以及代號(hào)為 Genoa-X 的第四代 EPYC 3D V-Cache CPU 等。而且本次 AMD 總裁 Victor·Peng 表示要在開發(fā)軟件生態(tài)系統(tǒng)上努力。