[導(dǎo)讀]2月26日消息，今天上午9點，DeepSeek繼續(xù)履行開源周承諾，發(fā)布了開源DeepGEMM。該帖子一經(jīng)轉(zhuǎn)發(fā)，立即引來了2.1萬閱讀量，足以見其在國內(nèi)外受到追捧的熱度。
2月26日消息，今天上午9點，DeepSeek繼續(xù)履行開源周承諾，發(fā)布了開源DeepGEMM。該帖子一經(jīng)轉(zhuǎn)發(fā)，立即引來了2.1萬閱讀量，足以見其在國內(nèi)外受到追捧的熱度。
據(jù)了解，DeepGEMM是一個專注于為FP8高效通用矩陣乘法(GEMM)庫，支持普通及混合專家(MoE)分組的矩陣計算需求，可動態(tài)優(yōu)化資源分配以提升算力效率。
該庫基于CUDA開發(fā)，采用輕量級即時編譯(JIT)模塊，在運行時動態(tài)編譯內(nèi)核，無需預(yù)先編譯安裝。
值得一提的是，DeepGEMM設(shè)計目標(biāo)是為DeepSeek-V3/R1模型的訓(xùn)練與推理提供簡潔高效的底層支持，尤其針對Hopper架構(gòu)GPU(如H800)優(yōu)化，兼顧高性能與低成本。
作為開源周的第三項成果，DeepGEMM的發(fā)布延續(xù)了DeepSeek此前開源模型與工具(如FlashMLA)的策略，進一步降低高性能計算技術(shù)的應(yīng)用門檻。
另外，本次開源屬于DeepSeek“開源周”(2月24日-28日)的第三項項目，此前已發(fā)布FlashMLA(高效解碼內(nèi)核)和DeepEP(專家并行通信庫)。
下載文檔
