DeepSeek宣佈開源DeepGEMM

金色財經報道，Deepseek於開源周第三天宣佈開源DeepGEMM。DeepGEMM是一個專爲簡潔高效的 FP8 通用矩陣乘法（GEMM）設計的庫，具有細粒度縮放功能，如DeepSeek-V3中所提出。它支持普通和混合專家（MoE）分組的GEMM。該庫採用CUDA編寫，在安裝過程中無需編譯，通過使用輕量級的即時編譯（JIT）模塊在運行時編譯所有內核。FP8GEMM庫，爲V3/R1訓練和推理提供支持。(金十)