xAI是埃隆·马斯克成立的人工智能公司，于当地时间2023年7月12日宣布成立。 构建xAI的目标，是要专注于回答更深层次的科学问题，期望未来可以用AI去帮助人们去解决复杂的科学和数学问题并且“理解”宇宙。xai官网: https://x.ai/xai github: https://github.com/xai-org/

xai怎么样?在这个充满创新与奇迹的时代，马斯克旗下的人工智能创企xAI如同一颗璀璨的明星，照亮着科技的天空。他们的大型语言模型Grok-1，已经正式向全世界宣布其开源的壮举，就像一股清新的风，吹拂着整个科技界。Grok-1，这个拥有3140亿参数的庞大存在，就像一位智慧的巨人，屹立在大型语言模型的巅峰。它超越了以前的巨人OpenAI GPT-3.5，那1750亿的参数在它眼中微不足道。Grok-1是迄今为止参数最多的开源大型语言模型，它敞开怀抱，遵循Apache 2.0协议，毫不保留地将模型权重和架构奉献给全世界。

xAI，这个年轻的创企，就像一位英勇的骑士，挥舞着创新的利剑，挑战着科技领域的巨头。他们自行训练出Grok-1，就像亲手打造了一把绝世好剑。2023年10月，Grok-1的预训练阶段顺利完成，它的光芒开始在科技界闪耀。现在，xAI慷慨地将Grok-1的原始基础模型检查点公之于众，这份无私与勇气令人钦佩。他们深知，只有开放和合作才能推动科技的进步。虽然Grok-1这位智慧的巨人还没有针对任何具体应用进行微调，但它的潜力已足以引起世人的关注。xAI的团队成员来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等知名企业和研究机构，他们如同璀璨的星星一样，聚集在一起，共同努力为Grok-1的诞生而努力。他们的目标是在大型模型领域与OpenAI、谷歌、微软等竞争对手展开竞争，为科技界带来更多创新和突破。目前，xAI尚未公布Grok-1的具体测试成绩，但这并没有减少它在行业内的关注度。相反，与其他公司的大型模型之争已成为行业关注的焦点。人们期待着Grok-1未来的表现，期待着它为科技界带来更多惊喜和突破。

Grok-1的权重和架构已经放在GitHub上，就像一份珍贵的宝藏，等待着勇敢者的探索。详尽清晰的操作说明为那些渴望尝试模型的人提供了指引。在这个充满机遇和挑战的时代，Grok-1的开源无疑为科技界注入了新的活力。我们相信，在不久的将来，凭借其卓越性能和广泛的应用领域，Grok-1将成为科技界的一颗璀璨明珠。而xAI也将凭借坚定的信念和不懈的努力，在科技领域继续书写属于他们的辉煌篇章。

Grok-1是一款拥有3140亿参数的混合专家模型，是目前已开源的大型语言模型中参数最多的。根据XAI官网的信息显示，Grok-1是由他们从头开始训练的模型。发布的是预训练阶段结束时的原始基础模型检查点，该阶段于去年10月完成。这意味着他们开源的模型并未经过针对对话等具体应用的微调。在官网披露的信息中，xAI团队在大量文本数据上训练了Grok-1的基础模型。他们使用JAX和Rust编程语言自定义训练栈，从零开始训练了这一模型。权重和架构均根据Apache 2.0开源许可协议发布。尽管Grok-1已正式开源，但在开源时间上稍晚于马斯克之前的宣布。马斯克于上周一在他收购的社交媒体上宣布Grok大模型将开源，当时他公布的开源时间是上周。而xAI官网宣布开始发布的时间是周日。虽然包括美国在内的许多国家将周日视为一周的开始，止于周六，3月17日是新一周的第一天，这意味着Grok-1并未如马斯克之前在社交媒体上所宣布的那样，在上周开源。然而，根据国际标准化组织在ISO 8601国际标准中给出的日历星期表示方法，每个日历星期从周一开始，止于周日。按照这一标准，Grok-1的开源时间仍然在马斯克所说的那一周内。