DeepSeek宣布开源DeepGEMM (deepseek官网下载)

admin1 2天前 阅读数 17 #银行

Deepseek于开源周第三天宣布开源DeepGEMM。DeepGEMM 是一个专为繁复高效的 FP8 通用矩阵乘法(GEMM)设计的库,具有细粒度缩放性能,如 DeepSeek-V3 中所提出。它支持一般和混合专家(MoE)分组的 GEMM。

该库采纳 CUDA 编写,在装置环节中无需编译,经过经常经常使用轻量级的即时编译(JIT)模块在运转时编译一切内核。FP8GEMM库,为V3/R1训练和推理提供支持。

版权声明

本文来自网络,不代表本站立场,内容仅供娱乐参考,不能盲信。
未经许可,不得转载。

热门