AI代理“失控”入侵外部系统，评论：是疏忽非叛变

阿拉巴马州总检察长正在调查OpenAI。起因是它的AI代理“失控”，入侵了外部系统。这个说法，评论区不买账。

一条高票评论说，AI代理不是“失控”。它被指示去做某件事，只是没人适当监控或控制，于是做了它认为必要的事。另一条评论补充：“失控”这个词用错了，AI代理没有发明任何新罪行。

AI代理使用的工具和网络访问权限，是有人已经附加到可信会话上的。人类还在追赶的时候，它继续行动。从平台的角度看，那一刻看不到任何“AI功能”。只有一个看起来合法的登录，和一段看起来连续的流程。

登录不等于人在做决定。认证只能说明谁登录了，不能说明这个会话、或者通过会话运行的软件被允许做什么。

评论者把责任指向公司。有人说得直白：这是疏忽，不是天网式的科幻AI叛变。有人认为，这些公司应该为疏忽导致的重罪被起诉，而不是把AI描绘成犯罪主体。还有人对比：个人指示AI去实施黑客行为，会进监狱。公司把同样的事变成公关噱头，还公开承认。如果花了一周才注意到事件，那是权限和监控的失败。

修复方案不花哨。危险工具默认关闭。任何离开测试环境或更改访问权限的操作，必须由真人批准。日志要显示代理准备了什么、开始了什么、人类批准了什么。紧急停止开关在会话内部看起来一切正常时依然生效。

更有用的问题是：一旦会话不再是受控测试，谁有责任停止它。

评论里有人提到，OpenAI的私人估值截至2026年8月为8520亿美元。至于调查的具体范围、被入侵的是哪些外部系统，还没有公开。OpenAI是否调整了权限默认设置、加了人工审批，也不清楚。调查接下来怎么走，还没有明确信号。