- 欢迎使用千万蜘蛛池，网站外链优化，蜘蛛池引蜘蛛快速提高网站收录，收藏快捷键 CTRL + D
迄今最大！马斯克AI大模型Grok开源：探索其参数量达3140亿
近日，有媒体报道称，马斯克旗下的AI创企xAI宣布了一项重大消息：他们的大语言模型Grok-1已经实现了开源，并且可以向公众开放下载。这一消息引起了业内的广泛关注。
MoE技术构建的大语言模型
据悉，Grok-1是基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有着惊人的3140亿参数，远远超过了OpenAI GPT-3.5的1750亿。这使得Grok-1成为目前参数量最大的开源大语言模型之一，而且它遵循Apache 2.0协议开放模型权重和架构。
开源模型的原始基础模型检查点
xAI表示，Grok-1在整个训练过程中都是由xAI自行进行训练的。而这次发布的是Grok-1预训练阶段结束时的原始基础模型检查点，也就是说，这个模型并没有经过针对任何具体应用的微调。
竞争激烈的大模型领域
xAI的目标之一是与OpenAI、谷歌、微软等对手在大模型领域展开竞争，其团队由来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等知名企业和研究机构的人员组成。这场大模型之战将是业内关注的焦点。
目前，xAI尚未公布Grok-1的具体测试成绩，而与其他公司的大模型之间的竞争将成为业内的热门话题。
最后，如果您对Grok-1这一开源大语言模型感兴趣，欢迎留言和评论分享您的看法。感谢您的观看和关注！
)
)
)
)
)
)
)