​马斯克AI大模型Grok开源 参数量达3140亿

据媒体报道，马斯克的AI创企xAI宣布其大语言模型Grok-1已实现开源，并向公众开放下载。据了解，Grok-1是一款基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有3140亿参数，远超OpenAI GPT-3.5的1750亿。这是迄今参数量最大的开源大语言模型，遵照Apache 2.0协议开放模型权重和架构。 xAI表示，Grok-1始终由xAI自行训练，其预训练阶段于2023年10月完成。此次发布的是Grok-1预训练阶段结束时的原始基础模型检查点，即该模型未经过针对任何具体应用的微调。xAI的目的之一就是与OpenAI、谷歌、微软等对手在大模型领域进行竞争，其团队来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等诸多知名企业和研究机构。目前，xAI尚未发布Grok-1的具体测试成绩，其与其他公司的大型模型竞争将成为业内关注的焦点。

标签： ​马斯克AI，Grok开源

版权声明：本文由用户上传，如有侵权请联系删除！