AI Pulse
📡 X 信号

马斯克解释 Grok 4.8 延期:弃用 JAX 与 SGLang 全栈重写

马斯克解释 Grok 4.8 延期:弃用 JAX 与 SGLang 全栈重写

重磅消息 🚨 今天有人问了 Elon Musk 一个简单的问题:Grok 4.8 什么时候发布?🔥 而他的回答变成了他近期最极客的一条推文串之一 🔥

首先是延迟的原因。SpaceXAI 抛弃了 JAX 和 SGLang 这两个用于训练和运行 AI 模型的流行开源工具,并用 C/C++ 从头重写了 Grok 的整个 RL 和推理栈。RL(强化学习)是模型练习并对其答案进行评分的阶段。推理是当你向 Grok 提问时实际运行它的部分。

随后回复不断涌现,涉及 C、内存,甚至汇编。最神秘的一条是:“在 SpaceX,我们编写自己的头文件并计算自己的时间(包括闰秒)。”Elon 警告说,没有多少人会知道这意味着什么。他还表示,新的 Grok 栈源自 Starlink 背后的工作。

以下是他用通俗语言表达的意思,以及为什么这解释了 Grok 4.8 需要额外时间的原因 🐰

首先,快速交代一下背景:重写工作并非始于今天。9 月,Elon 表示 Starlink 软件团队已经用 C 和 C++ 手动重建了预训练栈,而非由 AI 完成。这是模型从海量数据中学习的庞大第一阶段背后的软件。当时,RL 端仍然是一堆遗留的第三方软件。现在那堆东西也消失了。

Grok 4.8 正处于 RL 阶段,本周晚些时候将向 Grok Bot 用户进行软启动。Elon 承诺 4.8 将与 4.7 毫无相似之处,因为这次基础是正确构建的。这些基础始于最小的构建块。

📚 解读“我们编写自己的头文件”

在 C 语言中(Elon 表示新栈主要由 C 构成,“还有一点 C++,但不多”),头文件列出了程序计划使用的构建块。可以把它想象成代码开始工作前要检查的零件目录。大多数团队会直接使用随工具附带的标准目录并信任它们。自己编写很可能意味着 SpaceX 自己定义这些零件,因此代码中没有任何部分会执行团队未选择的操作。

内存也得到了同样的处理。当有人问旧栈是否用 Rust 编写时,Elon 回击道:“真正的男人自己管理内存。”这种抨击背后有历史原因。xAI 早期的 Grok-1.5 栈建立在 JAX、Rust 和 Kubernetes 之上。像 JAX 这样的 Python 工具,甚至 Rust,都会为你处理大部分内存簿记工作。在 C 语言中,程序员要精确决定何时分配和释放每一块内存。这工作量更大,也远没有那么宽容,但团队没有要求的事情就不会发生。

时间是这种控制真正变得有趣的地方。

⏱️ 大多数计算机伪造而 SpaceX 计算的额外一秒

原子钟保持近乎完美的时间。地球的自转则不然。为了使两者保持同步,计时员自 1972 年以来增加了 27 个闰秒,最近一次是在 2016 年 12 月 31 日。在那些夜晚,官方时钟在午夜之前实际上会显示 23:59:60。Linux 和 Unix 假设每一天都恰好是 t

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新