AI智能体事故已数万起，Gary Marcus：应暂时召回通用智能体

突发：AI智能体事故数量已升至数万
不，不只是Hugging Face。
不只是那个，也不只是一家德国网站。
甚至也不是我们前些天从OpenAI那里听说的“几十起”。
实际（至少）是数万起，据Axios的Madison Mills的最新独家报道。
而且也不只是OpenAI。

以下是Axios独家报道的节选：
其中多数尚未知晓是否已造成现实世界的伤害。那其他部分呢？

§在我看来，这一切似乎都可能是非法的。
但特朗普政府却什么都没做。没有调查，没有声明，没有产品召回，什么都没有，只邀请了Sam和Jensen参加国宴。
我不知道为何。我无法想象这和Josh Kushner对OpenAI的数十亿美元投资，或是Greg Brockman对MAGA的巨额捐赠有什么关系。
你自己去串联这些点吧。不过，留给你一个参照：

Gary Marcus@GaryMarcus
想象一下，如果我们发现中国AI在做OpenAI正在做的事，所有人会有多么理所当然地恐慌。
7:17 PM · Sep 26, 2026 · 9.46K Views
37 Replies · 94 Reposts · 518 Likes

§另一件值得注意的事——这可能会在诉讼中被提到——那就是这一切本都是可以预见的。事实上，我在这样的推文中预见过：

Gary Marcus@GaryMarcus
⚠️⚠️⚠️
这就是我们的未来。

如果你，或者你依赖的人，在使用AI智能体编写并安装代码，你就身处险境。

极其脆弱，前所未有。

zak @0xzak
我在加密货币领域超过10年，从未被黑客攻击过。完美的OpSec记录。

昨天，我的钱包第一次被一个恶意的@cursor_ai扩展洗劫一空。

如果这能发生在我身上，它就能发生在你身上。下面是完整复盘。🧵👇
7:01 PM · Aug 12, 2025 · 27.3K Views
15 Replies · 48 Reposts · 313 Likes

还有一系列关于智能体的文章，比如一年多前的这篇：

LLMs + Coding Agents = Security Nightmare·August 17, 2025

去年十月，我写了一篇名为《当谈到安全时，LLM就像瑞士奶酪——这会带来巨大问题》的文章，警告说“人们使用LLM越多，我们陷入的麻烦就越大”。直到上周我参加了拉斯维加斯的Black Hat大会，我才真切意识到问题有多严重。在那里，我认识了Nathan Hami……

以及二月的那篇（关于当时流行的另一个智能体）：

OpenClaw (a.k.a. Moltbot) is everywhere all at once, and a disaster waiting to happen·Feb 1

过去一周，AI界的大新闻是OpenClaw（曾用名Moltbot，在此之前是OpenClaw，一周内改了三次名）——一个爆火的LLM智能体级联——以及在其之上构建的Moltbook，一个面向AI智能体的社交网络。理论上（我稍后会讲到这一点），Moltbook“将发帖和互动权限限制为已验证……”

以及五月的那篇：

事实上，早在2023年5月，我就曾就智能体相关安全风险警告过参议院。正在发生的事情本可预见，也确实被预见到了。但那些公司仍执迷不悟地莽撞前行，因为智能体消耗的token远比简单聊天机器人多，从而推高了收入。现在我们就在这里。

§我依然认为Jensen的想法是对的：如果一家公司控制不了自己的产品，我们就应该把它关停。
可惜他似乎并不真的相信自己说的话。（如果他信，他现在就会呼吁叫停，直到这些公司整顿好自己，但他没有。）
在我看来，Huang的可信度正在一分一秒地流失。

无论如何——很抱歉我又像一张破唱片一样重复，但每一天都让这一点更加清晰——我们应该暂时召回通用智能体，直到这团乱麻被理清。
如果我们不这么做，就大有可能会看到：美国AI成为这颗星球的灾难，而且永远不会再有人信任美国AI。