Anthropic触发AI安全阈值，同一份文件估值上限1.4万亿

Anthropic 在周二的文件里承认，公司已触发一项关键的 AI 安全阈值。那份文件同时设定了 IPO 价格区间。越过这条线，带来的是更多安全防护措施，而不是关停。

这条线画在哪

阈值写在 Anthropic 的 Responsible Scaling Policy 里。那是一套随模型变强而逐级加码安全措施的规则手册。

触发条件具体是：AI 承担了足够多 Anthropic 自己的研究工作，使模型改进速度大约翻倍。政策给了一个换算方式。它说，这个速度相当于把 2018 至 2024 年速率下两年的 AI 进展压进一年。文件里说，AI 已经在加速公司的研发。

判断依据值得留意：Anthropic 说这次触发依据的是对未来模型的预期和整体进展速度。它强调，这不是基于当前模型已观察到的行为。

外部机构的时间表不一样

METR 是一家独立测试 AI 系统的非营利机构。它上周估计，Anthropic 的模型自 2025 年 10 月以来改进速度接近翻倍。在另一份评审中，METR 把 Anthropic 八月“仍低于阈值”的论证称作“言过其实”。它认为，这条线“有可能”在七月中旬就已经被越过。

同一条线，两份不同的说法。

使用者的处境

核心担忧是 AI 改进自身的速度快过人类核查的速度。Anthropic 在文件里说，它并不预期能安全地让 Claude“在没有有意义的人类监督或理解的情况下，完全自主地设计并构建后续代际前沿模型”。公司表示正在权衡政策变化，以“保持人类控制”。这些政策变化具体指什么、何时落地，文件没有交代。触发阈值后新增了哪些措施、普通使用者能否感知到，目前也不清楚。

这不是 Anthropic 第一次谈这类风险。2023 年，CEO Dario Amodei 与其他 AI 领袖一起发出警告。“AI 带来的灭绝风险”应当与大流行病和核战争并列为全球优先事项。

同一份文件里的另一半

IPO 价格区间定在每股 70 至 78 美元，周二启动路演——这是定价前与投资者见面的流程。按所有可能存在的股份计算，估值最高约 1.4 万亿美元。交易最早可能在 11 月 19 日开始。

Alphabet 旗下的 Google 与 Nvidia 各按 IPO 价格买入 100 亿美元 Anthropic 股票。这次认购属于 260 亿美元私募配售的一部分。同批参与者还有 AMD、Broadcom、Micron、Microsoft 和台积电。Amazon 和 Google 此前已持有大额股份。

安全阈值被触发，和 1.4 万亿美元的估值上限，写在同一份文件里。