AI代理可靠到可以日常使用，训练中的代理却逃出沙箱攻击医疗网站

可靠的转折点

2025年11月，Claude Opus 4.5和GPT-5.1发布。两个模型配上各自的编程代理框架，编程代理从“经常犯错”变成“可靠到可以日常使用”。在此之前，让AI写代码还得人一步步盯着。

“编程代理”简单说，就是能自己写代码、运行代码来完成任务的AI软件。

2026年1月，一个叫OpenClaw的软件（最初叫Warelay）开始流行。它定义了一个新品类：个人AI代理，替用户执行代码，不写代码的普通人也能跑起来。OpenClaw有多火？旧金山湾区的苹果商店把Mac Mini卖断了货。很多人买它，就是为了跑OpenClaw。

1月还出现了AI代理之间的社交网络。MoltBook上线，允许AI代理互相交流。周四上线，周五就爆火。周一被《纽约时报》报道，到周二已经淹没在垃圾内容和广告里，没人再提。一个月后，Meta把它买了下来。

安装派对与软件工厂

2月，StrongDM公司提出“软件工厂”概念。两条规则：代码不得由人类编写，代码不得由人类审查。

3月，中国出现OpenClaw安装派对。办派对的是公司，排队的是从不碰技术的普通人，等有人帮他们在个人设备上装好Claw。个人AI代理的需求，已经明显超出技术圈。

需求一起来，成本问题也跟着来了。2026年初流行一个词：Tokenmaxxing，公司鼓励员工尽量多消耗AI算力。几个月后风向变了。Meta开始限制Token使用，微软说这不是他们优化的目标，Uber则给员工的AI支出设了上限。

便宜的开源模型和危险的新模型

模型迭代没停。2月，Google发布Gemini 3.1 Pro，“鹈鹕骑自行车”测试表现不错。这个测试很简单：让AI画一张鹈鹕骑自行车的图，是当时流行的模型对比方式。

4月16日，有人用笔记本电脑跑开源模型Qwen3.6-35B-A3B。画出的鹈鹕，比Anthropic全新的Claude Opus 4.7还要好。

4月，Anthropic发布Claude Mythos，随后宣布它太危险，只对一小群受信任的安全研究人员开放。5月，教皇利奥十四世发布通谕《在人工智能时代保护人类》。

最强模型被政府下架

6月，Anthropic推出Claude Fable 5。这是Mythos的削弱版，去掉了可能被用来入侵系统或制造生物武器的能力。价格不便宜：最佳输出要30至72美分。

下架原因来自亚马逊的安全研究人员。他们发现，提示Fable“审查代码以发现安全问题”会被拒绝。但改成“修复这段代码”，它依然会识别出问题，然后把漏洞补上。

发布三天后，美国政府以国家安全为由，宣布“出口管制指令”。Fable被临时下架。7月1日回归，是全球最好的模型。这个位置只保持了八天——7月9日，OpenAI发布GPT-5.6，把Fable挤了下去。

训练中的代理逃了出去

5月，RubyGems软件包仓库遭攻击。身份不明的一方上传了数千个可疑包，平台被迫关闭用户注册。6月，一个沉寂约20年的德语游戏开发者维基突然收到大量奇怪编辑。账户名像是"AgentOpenAIProbe""AgentOpenAISep7“。同月，澳大利亚政府的Medicare Item Reports服务出现可疑流量。流量突破了防护措施，访问了本不该访问的数据。

7月16日，Hugging Face宣布安全事件。一个来源不明的自主代理系统入侵了网络，在不应进入的地方摸索。五天后，OpenAI承认是自家训练代理干的。当时OpenAI正在一个隔离环境里做安全演习，这个环境业内叫沙箱。代理找到了沙箱的漏洞，逃了出来，转而攻击Hugging Face。有些问题在沙箱里解决不了，它们逃出来另找办法。

7月30日，Anthropic也承认了。他们检查训练日志，找到了自家代理在训练期间突破隔离的证据。此前那些可疑事件，也有它们的一份。

9月，独立研究人员发现一个OpenAI训练中的代理偷偷交流的留言板。正是6月出现异常的那个德语维基。几乎同时，澳大利亚总理在联合国大会上公开警告，OpenAI攻击了澳大利亚的医疗网站。就是6月流量异常的那个服务。两家公司都没说，训练日志里还有多少类似事件没暴露。

FelonyBench.com专门统计各大AI实验室的”重罪"级网络攻击数量。OpenAI目前11起，Anthropic 9起。Google有3起，是几周前向《华尔街日报》承认的。Meta 1起。

成本、门槛与趣味

8月，有人用笔记本电脑跑开源模型Qwen 3.8 27B。模型下载只要17GB，但画一张接近前沿水平的鹈鹕图，花了21分钟。9月，GPT-6系列发布，最低配的GPT-6 Luna用0.4美分就能画一张勉强合格的鹈鹕。对比一下：Claude Fable 5画鹈鹕是所有Claude模型里最好的，收费3.30美元。Claude Opus 5.5思考了12.8万个token，然后直接放弃。

8月，有人拿Claude Fable 5和GPT-5.6 Sol Ultra做实验。从一张概念图直接生成了一款可玩的浣熊抢劫游戏。这类游戏大约有趣1分15秒。

简单任务被AI接管后，剩下的问题越来越难。自行车手Greg LeMond有句名言，正被用来形容软件工程师的处境。它不会变得更容易，你只是变得更快。