首页 > 热点播报 > 正文

月之暗面开源Kimi K3模型及三大核心基础设施技术助力AI发展

月之暗面开源了Kimi K3模型的权重与技术报告,并公开了支撑其训练的三项关键Infra技术。Kimi K3是一个拥有2.8万亿参数的混合专家模型,具备原生视觉理解能力,并支持100万token的上下文窗口。

据悉,该模型在有限算力下,通过一系列技术创新,实现了规模化效率2.5倍的提升。目前,任何人都可以自由下载并部署该模型,用于研发或集成到产品中。

支撑Kimi K3训练效率与稳定性的三大关键技术分别是MoonEP、FlashKDA和AgentEnv。其中,MoonEP是为超大细粒度MoE设计的高性能通信库。FlashKDA是高性能算子,能显著提升推理速度。AgentENV则是用于大规模运行Agent环境的沙箱系统。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥1999
    荣耀X80 Pro Max
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥1599
    REDMI Note 17 Pro
    ·
  4. ¥2999
    REDMI K90至尊版
    ·
  5. ¥2999
    HUAWEI nova 16
    ·
  6. ¥8999
    苹果iPhone17 Pro
    ·
  7. ¥3599
    荣耀500 Pro
    ·
  8. ¥9999
    苹果iPhone17 Pro Max
    ·
  9. ¥7999
    vivo X Fold6
    ·
  10. ¥6999
    vivo X300 Ultra
    ·