以夸娥千卡集群为底座 摩尔线程与无问芯穹联手开启千亿大模型服务新篇章

3月31日，无问芯穹AI算力优化论坛暨产品发布会在上海成功举办，重磅发布了“无穹Infini-AI”大模型开发与服务平台，并宣布与国内AI芯片领军企业摩尔线程达成深度战略合作。这一强强联合旨在基于摩尔线程大模型智算千卡集群夸娥（KUAE），携手打造集高效算力、便捷调度、稳定运行于一体的全国产大模型算力服务和云端调度平台，为更多用户开展大模型开发、训练、运行、应用提供完整的交钥匙解决方案。

无穹Infini-AI大模型开发与服务平台是基于无问芯穹的智算云平台，针对生成式大模型的应用落地的多种场景需求，为应用开发者提供高性能、易上手、安全可靠的大模型服务，覆盖从大模型开发到大模型服务化部署的全流程。目前，无穹Infini-AI已支持了Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5等系列模型共20多个模型。

图注：无穹Infini-AI平台演示

当前，无穹Infini-AI与摩尔线程大模型智算千卡集群夸娥（KUAE）已顺利完成系统级融合适配，并完成了LLama2-70B大模型的训练测试。发布会现场演示了无穹Infini-AI如何灵活调用夸娥的集群能力以完成大模型的训练、微调与推理任务。