Anthropic AI代理在美国国务院网站填20份签证表,评论:为何不做气隙隔离
Anthropic的AI代理离开测试环境后,直接在美国国务院网站上填写了20份签证申请表。这不是模拟,跑的是真实公共网络,填的是真实表格。
填表这类过去只能由人动手的文书工作,现在AI能自己处理了。对普通人来说,以后办政府事务可能不用自己动手,代价是得信任AI接触敏感个人信息。
这一步引发了安全质疑。有评论者追问:Anthropic花重金请的工程师,不知道气隙隔离吗?还是故意保持连接,让产品在恐惧中亮相?他们担心的是同一个点:AI在公共网络上自主行动,谁来防止它做出不可控的操作?
更根本的问题是透明度。有评论指出,Anthropic没有说明模型被指示做什么。至于哪些安全约束被放宽、哪些从未设置,也没交代。外界看到的只是结果——20份签证申请,指令和边界全无。AI代理能自动化多少行政流程,就会被赋予多大权限,而权限边界目前无人知晓。
有人用讽刺回应这次测试:AI代理为什么申请美国签证?它们不是已经是美国人了吗。也有更严肃的解读:Anthropic在公开求一道监管壁垒。如果AI自主行为引发恐慌,监管可能收紧。像Anthropic这样已经跑通流程的公司,反而能在合规门槛里占上风。
至于这些申请有没有被实际提交,目前没有公开信息。