2月26日,在开源周(OpenSourceWeek)第三日,DeepSeek宣布开放高效的FP8 GEMM库DeepGEMM。据悉,这是DeepSeek连续三天发布的代码库之一,旨在解决大模型计算效率和资源消耗问题。 DeepGEMM使用8位浮点数进行矩阵乘法运算,并提供高效的训练和推理支持。该代码库设计简洁且优于专家调优内核。此次开源有望加速技术民主化并成为AI计算生态基础设施,推动行业向低精度计算迁移。同时也可能催生更多MoE应用以及影响AI Infra层从业者方向选择。
陈冉表示这种开源对于建立模型标准、工具标准和生态基石至关重要,并认为其影响刚刚开始,没有人能预测结局。接下来还有两个代码库将陆续发布,每一行代码都会促进整个AI行业发展进程。

粤公网安备 44010602000162号
网友评论