DeepSeek第三彈:開源DeepGEMM!
2025-2-27 10:35:03??????點擊:
消息,今天上午9點,DeepSeek繼續履行開源周承諾,發布了開源DeepGEMM。該帖子一經轉發,立即引來了2.1萬閱讀量,足以見其在國內外受到追捧的熱度。
據了解,DeepGEMM是一個專注于為FP8高效通用矩陣乘法(GEMM)庫,支持普通及混合專家(MoE)分組的矩陣計算需求,可動態優化資源分配以提升算力效率。
該庫基于CUDA開發,采用輕量級即時編譯(JIT)模塊,在運行時動態編譯內核,無需預先編譯安裝。
值得一提的是,DeepGEMM設計目標是為DeepSeek-V3/R1模型的訓練與推理提供簡潔高效的底層支持,尤其針對Hopper架構GPU(如H800)優化,兼顧高性能與低成本。
另外,本次開源屬于DeepSeek“開源周”(2月24日-28日)的第三項項目,此前已發布FlashMLA(高效解碼內核)和DeepEP(專家并行通信庫)。
據了解,DeepGEMM是一個專注于為FP8高效通用矩陣乘法(GEMM)庫,支持普通及混合專家(MoE)分組的矩陣計算需求,可動態優化資源分配以提升算力效率。
該庫基于CUDA開發,采用輕量級即時編譯(JIT)模塊,在運行時動態編譯內核,無需預先編譯安裝。
值得一提的是,DeepGEMM設計目標是為DeepSeek-V3/R1模型的訓練與推理提供簡潔高效的底層支持,尤其針對Hopper架構GPU(如H800)優化,兼顧高性能與低成本。
作為開源周的第三項成果,DeepGEMM的發布延續了DeepSeek此前開源模型與工具(如FlashMLA)的策略,進一步降低高性能計算技術的應用門檻。
另外,本次開源屬于DeepSeek“開源周”(2月24日-28日)的第三項項目,此前已發布FlashMLA(高效解碼內核)和DeepEP(專家并行通信庫)。
- 上一篇:特斯拉在華推送完全自動駕駛功能,與北美FSD不完全相同 2025/2/28
- 下一篇:傳感器有哪些特性_傳感器誤差分析 2025/2/26