AI Pulse

过去要几十名工程师干数月,Claude三天在AMD上跑通

Anthropic 昨天启动 IPO 路演,路演视频里有此前没公开过的业务信息。联合创始人 Tom Brown 讲的“计算方式”部分,说的是这家公司怎么处理算力。现在 Claude 在四个主要芯片家族上训练,也在上面提供服务。名单是 AWS Trainium、Google TPU、NVIDIA GPU 和 AMD GPU。

先讲的是多芯片,这改变了 Anthropic 引入新硬件的方式。今年它第一次用上 AMD GPU。过去上一个新平台要几十名工程师干几个月;这次他们把活交给 Mythos,三天就在 AMD 上跑起来,基本没有人工干预,内核几乎全由 Claude 自己移植或编写。

这条路来自一个早年的押注。当时很多人觉得,同一种模型要在不同芯片上各跑一遍不值得——每块芯片都要一套定制的软件栈和推理栈,贵,也难建。Anthropic 做了几年,现在很熟。去年九月它复盘三起近期问题,提到一些只影响 TPU 部署的 bug,那次复盘被看成多芯片策略露出的一条线索。

第二个是计算乘数的发现速度。Anthropic 盯的是总有效计算:物理算力乘上它发现的乘数。训练某个水平的模型要 100 单位计算,找到一个 4 倍乘数后,25 单位就够。或者用原来的 100 单位,训出原本要 400 单位才做得出的更强模型。乘数会叠起来,新乘数对旧乘数也有正向作用,这种优势不好复制。

Anthropic 的说法是,接近递归自我改进时这个过程还会更快。到那时 Claude 能完全靠自己找到乘数,乘数增长也更快。这是家公司的判断,不是已经发生的事。能确定的部分是:乘数越多,同样的硬件能跑越强的模型。

路演里没出现 IPO 的时间表、估值和募资用途。Mythos 是内部工具还是另一个模型,也没交代。这次移植省了多少成本、AMD 上的表现如何,同样没有数字。加速从什么时候开始,多芯片和乘数最后怎么落到 Claude 的价格和响应速度上,视频里都空着。

关键事实

阅读原文
📚 相关主题 IPO算力

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新