迄今最大！马斯克AI大模型Grok开源：参数量达3140亿

快科技3月18日消息， 据媒体报道，马斯克的AI创企xAI正式宣布其大语言模型Grok-1已实现开源，并向公众开放下载。

据了解，Grok-1是一款基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有3140亿参数，远超OpenAI GPT-3.5的1750亿。 这是迄今参数量最大的开源大语言模型，遵照Apache 2.0协议开放模型权重和架构。

xAI表示，Grok-1始终由xAI自行训练，其预训练阶段于2023年10月完成。 此次发布的是Grok-1预训练阶段结束时的原始基础模型检查点，即该模型未经过针对任何具体应用的微调。

xAI的目的之一就是与OpenAI、谷歌、微软等对手在大模型领域进行竞争，其团队来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等诸多知名企业和研究机构。