据悉,DeepSeek在上周宣布本周将进行连续五个软件库的开源活动,并于今日向公众开源了DeepEP。DeepEP是一个用于MoE(混合专家)模型训练和推理的EP(Expert Parallelism)通信库,支持高效且优化的全对全通信,适配现代高性能计算需求。同时,在针对NVLink到RDMA的非对称带宽转发场景进行了深度优化,提供了高吞吐量并兼顾训练和推理任务。仅20分钟后,在GitHub上已获得超过1000个Star收藏。
据悉,DeepSeek在上周宣布本周将进行连续五个软件库的开源活动,并于今日向公众开源了DeepEP。DeepEP是一个用于MoE(混合专家)模型训练和推理的EP(Expert Parallelism)通信库,支持高效且优化的全对全通信,适配现代高性能计算需求。同时,在针对NVLink到RDMA的非对称带宽转发场景进行了深度优化,提供了高吞吐量并兼顾训练和推理任务。仅20分钟后,在GitHub上已获得超过1000个Star收藏。
热点播报 2025-02-24 22:48:54
热点播报 2025-02-24 19:17:00
热点播报 2025-02-24 19:16:30
热点播报 2025-02-24 18:32:53
热点播报 2025-02-24 17:48:46
网友评论