HBM內(nèi)存的重要性，你絕對想象不到！
[導(dǎo)讀]眾所周知，HPC和AI市場正在飛速發(fā)展，數(shù)據(jù)量“飛起”的年代下，系統(tǒng)需要更高的算力，而與此同時也需要更多的內(nèi)存容量。隨著人工智能（AI）訓(xùn)練和推理以及高性能計算的出現(xiàn)，數(shù)據(jù)中心需要更多使用極速內(nèi)存，即高帶寬內(nèi)存（HBM）。在這些領(lǐng)域工作的應(yīng)用架構(gòu)師需要找到更高的帶寬以應(yīng)對新局面。...
眾所周知，HPC和AI市場正在飛速發(fā)展，數(shù)據(jù)量“飛起”的年代下，系統(tǒng)需要更高的算力，而與此同時也需要更多的內(nèi)存容量。
隨著人工智能（AI）訓(xùn)練和推理以及高性能計算的出現(xiàn)，數(shù)據(jù)中心需要更多使用極速內(nèi)存，即高帶寬內(nèi)存（HBM）。在這些領(lǐng)域工作的應(yīng)用架構(gòu)師需要找到更高的帶寬以應(yīng)對新局面。
事實上，業(yè)界普遍認(rèn)為當(dāng)前GPU和FPGA加速器中大量計算都受到內(nèi)存限制。在這種情境下，3D堆疊高帶寬內(nèi)存 (HBM) 獲得的高帶寬水平，是為龐大的計算引擎提供數(shù)據(jù)帶來更多帶寬和更多容量的關(guān)鍵。
據(jù)了解，高帶寬內(nèi)存(HBM)起源于2013年，是一種高性能3D堆棧SDRAM構(gòu)架，數(shù)據(jù)傳輸速率大概可以達(dá)到1Gbps左右。此后，2016年HBM2正式推出，本代產(chǎn)品為每個堆棧包含最多8個內(nèi)存芯片，同時將管腳傳輸速率翻倍，達(dá)到了2Gbps。
時間到了2018年末，JEDEC正式宣布HBM2E規(guī)范。當(dāng)傳輸速率上升到每管腳3.6Gbps時，HBM2E可實現(xiàn)每堆棧461GB/s的內(nèi)存帶寬。此外，HBM2E支持最多12個DRAM堆棧，內(nèi)存容量高達(dá)每堆棧24GB。
當(dāng)然，HBM的演進(jìn)并不會止步于此，據(jù)規(guī)劃，更高帶寬和內(nèi)存容量的HBM3早已在規(guī)劃路線圖中清晰地展示，而這種演進(jìn)也將成為未來HPC和AI市場的關(guān)鍵。
HBM性能演進(jìn)(圖片來源：Rambus)
作為存儲巨頭，美光科技（Micron）一直引領(lǐng)著業(yè)界，通過不斷改善內(nèi)存解決方案而引領(lǐng)市場發(fā)展，并憑借滿足新興市場應(yīng)用不斷變化的需求，從而改變世界。
根據(jù)美光的介紹，其HBM2E產(chǎn)品使用硅通孔（TSV）通道來構(gòu)建垂直堆疊的 DRAM。
而美光研發(fā)堆疊 DRAM 已有 20 年的歷史，并獲得數(shù)千項專利。在未來的堆疊式 DRAM 創(chuàng)新研究中，美光計劃通過開發(fā)新產(chǎn)品以滿足更多數(shù)據(jù)密集型工作負(fù)載的高性能和低功耗需求。
美光用于 HBM2E 的垂直堆疊 DRAM，并通過硅通孔（TSV）通道連接各層
高帶寬內(nèi)存的架構(gòu)在業(yè)界對于帶寬、功耗和外形尺寸方面的需求方面被寄予厚望。這一架構(gòu)現(xiàn)在是 AI 行業(yè)標(biāo)準(zhǔn)內(nèi)存解決方案，并廣泛應(yīng)用于數(shù)據(jù)中心。HBM2E 是 HBM 系列產(chǎn)品的第三項標(biāo)準(zhǔn)，它提供了非常寬的多通道 I/O——即 1,024 位寬，擁有非常短的物理通道并且能在極小的尺寸上實現(xiàn)極高的內(nèi)存密度。
HBM2E位于靠近 GPU 或 CPU 的中介層，通常被放置在同一個封裝或者散熱機箱中。HBM2E 具有極寬的 I/O 總線和更高的密度，為現(xiàn)代數(shù)據(jù)中心基于加速器的計算模式提供了所需的高性能和高能效。
美光通過提供 GDDR 和 HBM 等超帶寬解決方案，賦能分析引擎，幫助 AI 訓(xùn)練算法。例如，一個擁有超過 13 億參數(shù)的 AI 模型無法放入單個 GPU（即使是擁有 32GB 內(nèi)存）中，但擴展內(nèi)存容量可以讓更大的模型/更多的參數(shù)留在離核心計算更近的地方。
通過增加帶寬和容量以減少內(nèi)存和存儲解決方案帶來的延遲，美光正通過加速實現(xiàn)洞察，幫助客戶獲得更大的競爭優(yōu)勢。
針對這款產(chǎn)品，
美光聯(lián)合21ic，特別推出了有趣的小游戲，讓你邊拿獎品邊學(xué)干貨！
暑夏已過，爽秋來臨，這個秋天，美光要帶大家玩點不一樣的。誰說內(nèi)存與存儲的世界只有無趣的代碼的和古板的數(shù)據(jù)，我們要拒絕平凡、拒絕老套、拒絕平淡無奇，我們要玩出奇趣、玩出刺激、玩出不一樣的精彩。本次，美光科技為大家?guī)砗猛媲掖碳さ拿苁姨用摯笥螒颉?/span>四大關(guān)卡，四重獎勵，還不趕緊行動起來！
游戲說明
1、本游戲共分為4個密室逃脫關(guān)卡，每闖過一關(guān)均有機會獲得論壇打賞，另憑借星還可兌換驚喜禮品。
2、第一次便挑戰(zhàn)成功可獲得3星，否則獲得2星。
3、美光官微關(guān)注、轉(zhuǎn)發(fā)、評論、點贊等作為加碼項目，可額外獲得1顆星獎勵。
4、憑借星星數(shù)目可以申請兌換獎品哦~每件獎品僅可兌換1次。活動結(jié)束后系統(tǒng)將在申請兌換的用戶中隨機抽取幸運用戶發(fā)放獎品，并于論壇公布。
獎品展示
↙點擊下方“閱讀原文”立即參加活動
隨著人工智能（AI）訓(xùn)練和推理以及高性能計算的出現(xiàn)，數(shù)據(jù)中心需要更多使用極速內(nèi)存，即高帶寬內(nèi)存（HBM）。在這些領(lǐng)域工作的應(yīng)用架構(gòu)師需要找到更高的帶寬以應(yīng)對新局面。
事實上，業(yè)界普遍認(rèn)為當(dāng)前GPU和FPGA加速器中大量計算都受到內(nèi)存限制。在這種情境下，3D堆疊高帶寬內(nèi)存 (HBM) 獲得的高帶寬水平，是為龐大的計算引擎提供數(shù)據(jù)帶來更多帶寬和更多容量的關(guān)鍵。
據(jù)了解，高帶寬內(nèi)存(HBM)起源于2013年，是一種高性能3D堆棧SDRAM構(gòu)架，數(shù)據(jù)傳輸速率大概可以達(dá)到1Gbps左右。此后，2016年HBM2正式推出，本代產(chǎn)品為每個堆棧包含最多8個內(nèi)存芯片，同時將管腳傳輸速率翻倍，達(dá)到了2Gbps。
時間到了2018年末，JEDEC正式宣布HBM2E規(guī)范。當(dāng)傳輸速率上升到每管腳3.6Gbps時，HBM2E可實現(xiàn)每堆棧461GB/s的內(nèi)存帶寬。此外，HBM2E支持最多12個DRAM堆棧，內(nèi)存容量高達(dá)每堆棧24GB。
當(dāng)然，HBM的演進(jìn)并不會止步于此，據(jù)規(guī)劃，更高帶寬和內(nèi)存容量的HBM3早已在規(guī)劃路線圖中清晰地展示，而這種演進(jìn)也將成為未來HPC和AI市場的關(guān)鍵。
HBM性能演進(jìn)(圖片來源：Rambus)作為存儲巨頭，美光科技（Micron）一直引領(lǐng)著業(yè)界，通過不斷改善內(nèi)存解決方案而引領(lǐng)市場發(fā)展，并憑借滿足新興市場應(yīng)用不斷變化的需求，從而改變世界。
根據(jù)美光的介紹，其HBM2E產(chǎn)品使用硅通孔（TSV）通道來構(gòu)建垂直堆疊的 DRAM。
而美光研發(fā)堆疊 DRAM 已有 20 年的歷史，并獲得數(shù)千項專利。在未來的堆疊式 DRAM 創(chuàng)新研究中，美光計劃通過開發(fā)新產(chǎn)品以滿足更多數(shù)據(jù)密集型工作負(fù)載的高性能和低功耗需求。
美光用于 HBM2E 的垂直堆疊 DRAM，并通過硅通孔（TSV）通道連接各層高帶寬內(nèi)存的架構(gòu)在業(yè)界對于帶寬、功耗和外形尺寸方面的需求方面被寄予厚望。這一架構(gòu)現(xiàn)在是 AI 行業(yè)標(biāo)準(zhǔn)內(nèi)存解決方案，并廣泛應(yīng)用于數(shù)據(jù)中心。HBM2E 是 HBM 系列產(chǎn)品的第三項標(biāo)準(zhǔn)，它提供了非常寬的多通道 I/O——即 1,024 位寬，擁有非常短的物理通道并且能在極小的尺寸上實現(xiàn)極高的內(nèi)存密度。
HBM2E位于靠近 GPU 或 CPU 的中介層，通常被放置在同一個封裝或者散熱機箱中。HBM2E 具有極寬的 I/O 總線和更高的密度，為現(xiàn)代數(shù)據(jù)中心基于加速器的計算模式提供了所需的高性能和高能效。
美光通過提供 GDDR 和 HBM 等超帶寬解決方案，賦能分析引擎，幫助 AI 訓(xùn)練算法。例如，一個擁有超過 13 億參數(shù)的 AI 模型無法放入單個 GPU（即使是擁有 32GB 內(nèi)存）中，但擴展內(nèi)存容量可以讓更大的模型/更多的參數(shù)留在離核心計算更近的地方。
通過增加帶寬和容量以減少內(nèi)存和存儲解決方案帶來的延遲，美光正通過加速實現(xiàn)洞察，幫助客戶獲得更大的競爭優(yōu)勢。
針對這款產(chǎn)品，
美光聯(lián)合21ic，特別推出了有趣的小游戲，讓你邊拿獎品邊學(xué)干貨！
暑夏已過，爽秋來臨，這個秋天，美光要帶大家玩點不一樣的。誰說內(nèi)存與存儲的世界只有無趣的代碼的和古板的數(shù)據(jù)，我們要拒絕平凡、拒絕老套、拒絕平淡無奇，我們要玩出奇趣、玩出刺激、玩出不一樣的精彩。本次，美光科技為大家?guī)砗猛媲掖碳さ拿苁姨用摯笥螒颉?/span>四大關(guān)卡，四重獎勵，還不趕緊行動起來！游戲說明
1、本游戲共分為4個密室逃脫關(guān)卡，每闖過一關(guān)均有機會獲得論壇打賞，另憑借星還可兌換驚喜禮品。
2、第一次便挑戰(zhàn)成功可獲得3星，否則獲得2星。
3、美光官微關(guān)注、轉(zhuǎn)發(fā)、評論、點贊等作為加碼項目，可額外獲得1顆星獎勵。
4、憑借星星數(shù)目可以申請兌換獎品哦~每件獎品僅可兌換1次。活動結(jié)束后系統(tǒng)將在申請兌換的用戶中隨機抽取幸運用戶發(fā)放獎品，并于論壇公布。
獎品展示
↙點擊下方“閱讀原文”立即參加活動
下載文檔
