Anthropic要求政府严管AI，如今反被严格管制

Anthropic 是自找的吗？

上周五，美国政府发布了一项出口管制指令，禁止 Anthropic 向外国公民提供其最新模型 Claude Fable 和 Claude Mythos。 我认为 Anthropic 是直接自找的。

就在此事发生前几天，Anthropic 的 CEO Dario Amodei 发表了《AI 指数政策》（Policy on the AI Exponential）：

“政府应该有权，在根据第三方评估确定模型构成不可接受风险时，阻止或阻碍该模型的部署。这一权力必须限定在上述四种具体风险内，并且必须有防止政治偏袒或武断决定的保护措施。”

Dario 以撰写关于监管和 AI 行业（特别是 Anthropic）方向的文章而闻名，他的言论被极其认真地对待，被视为公司立场的权威表述。我正是这样理解他的声明的——制定法律的人、他私下交谈的人，以及任何审理他案件的法官，都很可能也是这样理解的。

既然这是官方声明，我们逐条分析，确保他确实要求了两天后发生在 Anthropic 身上的事。

政府应该有权阻止或阻碍模型的部署 是的。政府正在阻止 Anthropic 模型的部署。

如果根据第三方评估认定模型构成不可接受的风险 是的。这项评估是由 Amazon 做出的，Amazon 是频繁且重要的政府承包商，通常被信任处理高安全级别的政府、情报和军事承包事务。

这一权力必须限定在上述四种具体风险 我们需要回溯一下这四种风险是什么。前一段落指出：网络安全、生物武器、AI 系统失控，以及可能加速其他风险的自动化研发。 是的。他们的第三方报告指出这构成了网络安全风险。

并且必须有防止政治偏袒或武断决定的保护措施 这是段落中唯一困难的部分。是否存在防止政治偏袒或武断决定的保护措施？ 我相信有：它们被称为“法院”。Dario 和我们其他人一样自由，可以提起诉讼，站在法官面前，告诉法官他是政治偏袒或武断决定的受害者。实际上，这正是法律体系的主要目的之一。 我不认为我应该相信他指的是别的什么。如果他想拥有某种现有法律之外的“保护措施”，他多年来有充足的机会这样说。据我所知，Anthropic 从未提议过任何从事 AI 工作的人应该享有比普通法律程序更新或不同的政府保护。如果 Anthropic 确实相信应该有这种东西，而在推动更严格法律的同时没有说出来，那似乎极其失职。

所以，是的。Dario 要求了这一点。Anthropic 要求了这一点。他们得到了他们要求的，字字句句分毫不差。

他们不仅要求了这一点，而且多年来一直如此要求，并且无法被劝阻。当人们说以这种方式赋予政府权力可能有害时，Anthropic 并不同情。Anthropic 对此似乎态度非常强烈。

而且奇怪的是，即使政府换手且大多已变得疯狂，他们的立场也丝毫没有改变。他们继续推动政府获得更多对 AI 的权力，并继续通过 Palantir 和 Amazon 等中间商直接或间接向政府销售服务。

在我看来，他们主要设想这些法规适用于其他人，特别是开源项目、学者和小公司。现在他们自己受到了他们提议的那种确切的监管，他们不喜欢这样。

我认为他们这样做极其不负责任，我对“豹子先吃了他们的脸”感到相当幸灾乐祸。

至少在一定程度上。今年早些时候，战争部似乎试图扼杀 Anthropic。在我看来，那是战争部长对公司赤裸裸的政治化、笨拙的权力争夺。到目前为止，法律体系似乎同意我的评估。

这次有什么不同呢？

首先，这次没有笨拙的政治姿态或明显的越权行为。根据报道，这是由财政部长 Bessent 协商达成的，你不会在他对此事的任何言论中找到关于 Anthropic“觉醒”的表述，因为他根本没有公开谈论过此事。出口管制指令是美国政府确实拥有的明确权力，与战争部所主张和要求的大部分不同。

其次，而且更为严重的是，有一份无可指责的公开声明记录——Anthropic CEO Dario Amodei 以及 Anthropic 通过官方渠道的声明——他们相信 Claude Mythos 和 Fable 具有国家安全意义，因为它们构成了严重的生物武器和网络安全风险，并且应该由政府监管。我相当确信，如果政府因此被起诉，一个聪明的政府律师会在法庭上花大量时间将这些声明读入记录。

Anthropic 花费大量时间和精力谈论 AI 有多危险，以及它应该作为军事问题受到监管。他们这样做已经如此之久且如此公开，以至于人们似乎已经习惯了，不再注意到这看起来是多么奇怪且在法律上令人质疑。如果政府完全按照字面意思且严肃地对待 Anthropic 关于自身的一切说法，会发生什么？

狗有时会追上车，而当它们真追到时往往很不幸。

总的来说，AI 公司喜欢夸耀他们正在做的事情是多么灾难性且重要，而当提到可能的负面后果时，他们往往会推诿。

“政府”或“社会”应该处理所有那些事情。好吧，现在政府来了——真实存在的政府，而不是一个只做好事不做坏事的想象中的政府。

我也不特别喜欢这次政府行动。目前组成的美国政府似乎根本不可能治理任何全新的技术或日益不同的未来。如果你的计划是让政府以后拯救我们所有人，那你根本就没有计划。

如果没有现有机构能够治理你正在创造的技术，你最好想出一个能治理的机构，或者停止你正在做的事。

如果你告诉别人你以为政府或“社会”会解决你制造的问题，没人在乎。