马斯克又一力作正式开源：Grok-1模型参数量高达3140亿！

马斯克领导的人工智能公司xAI在当地时间周一宣布，他们的大语言模型Grok-1已经正式开源。这款拥有3140亿参数的混合专家模型是xAI团队从头开始训练的成果，他们使用JAX和Rust编程语言自定义训练栈，并依据Apache 2.0开源许可协议发布了基本模型的权重和网络架构。

虽然马斯克在社交媒体上曾宣布Grok大模型将开源，且时间节点与xaip官网公布的时间略有差异，但根据国际标准化组织给出的日历星期表示方法，每个日历星期是始于星期一、止于星期日。因此，在这一标准下，Grok-1的开源时间仍是在马斯克所说的那一周内。

此外，xaip官网还披露了Grok-1是如何被训练出来的：它是一款基于大量文本数据进行训练的基础模型。xaip团队并没有对Grok-1进行针对对话等任何具体应用的微调，而只是进行了预训练阶段结束时原始基础模型检查点的发布。

马斯克在上周一公开表示Grok大模型将在本周开源，并呼吁大家来探索这个强大的工具。他声称这个大模型是人工智能领域的重要里程碑，未来可能会改变我们的方式。

这次开源事件引起了业内广泛关注，人们对这款强大的语言模型产生了浓厚兴趣。虽然 xaip 官网公布的时间与马斯克所言有所出入，但无论如何，Grok-1已经成为当前最令人期待和瞩目的大语言模型之一。

值得一提的是，在 GPT-3 前后那些年的热门大语言模型之后，《纽约时报》专栏作家 Will O'Brien 在新文章中提出了一个有趣的观点：“当技术发展到一定程度时，我们会觉得所有的技术都已出现过。”他认为，在过去几年里，我们已经见证了人工智能、自动化、机器学习等领域取得了重大进展，并认为未来很可能还会出现更多类似 GPT-3 或 Grok 的作品。

让我们拭目以待未来是否会如 Will 所言一样出现更多的突破性科技产品吧！