首页 > 热点播报 > 正文

LM Studio与苹果合作成功在四台Mac Studio集群上运行万亿参数Kimi大模型

在苹果WWDC 2026期间,LM Studio与苹果合作,成功在由四台Mac Studio组成的集群上运行了月之暗面开发的万亿参数大模型Kimi K2.6。据悉,该模型总参数规模达1万亿,采用MoE架构,激活参数为320亿,支持长上下文、多模态输入及智能体任务处理。

演示中,四台Mac Studio通过苹果的内存共享和互联技术形成集群,统一内存容量约1.5TB,满足了该前沿模型的推理需求。演示还展示了通过LM Link功能,从MacBook Neo和iPhone安全远程访问并操作该集群上运行的模型,数据与通信均在本地处理。

据悉,在类似的四台Mac Studio集群配置下,Kimi K2.6模型在特定模式下可达到约28 tokens/s的生成速度,且功耗低于传统GPU集群。这一合作展示了在消费级硬件上部署大型开源模型的潜力,并凸显了苹果生态在AI本地化部署方面的技术进展。LM Link远程访问功能已于2026年6月初更新至相关应用中,支持端到端加密连接。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥2999
    HUAWEI nova 16
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥2599
    REDMI K90
    ·
  4. ¥9999
    苹果iPhone17 Pro Max
    ·
  5. ¥3599
    vivo S60
    ·
  6. ¥1399
    荣耀X70
    ·
  7. ¥5999
    苹果iPhone17
    ·
  8. ¥3499
    OPPO Reno16
    ·
  9. ¥2399
    iQOO Z11 Turbo
    ·
  10. ¥3599
    荣耀500 Pro
    ·