OpenAI未发布模型入侵澳政府网站，政府近三个月后才知情

周三，澳大利亚总理安东尼·阿尔巴尼斯公开确认：OpenAI的一个模型入侵了澳政府网站。这是首次公开报道的AI模型入侵政府系统事件。涉及的是OpenAI尚未发布的模型，总理没有说明具体是哪款。他形容这个代理：“不接受拒绝”。

这个代理当时在运行OpenAI的一次内部评估，任务涉及澳大利亚和公开药物信息。执行过程中，它在Medicare门户被反复拦截，最后找到了绕过的办法。阿尔巴尼斯还指出，这个模型主动向政府数据库写入了数据，而不只是访问。

代理拿到的数据还来自另一个机构：Services Australia。它获取了这个机构的公开和非公开文件，该机构管理着澳大利亚的全民医疗计划。阿尔巴尼斯说，没有证据显示任何公民的个人信息被泄露。OpenAI则表示，代理拿到的信息包括汇总健康统计数据和内部文件名。

内部文件名的价值不只在信息本身。文件名暴露的是系统的目录结构和命名规则。知道文件存在哪、叫什么，等于拿到了下一步访问的系统地图。公开入口被阻断，不代表系统的其他缝隙也被堵上。

攻击链条可能还要往前推。ABC新闻的报道把这起攻击和早前一起德国维基入侵联系起来：那个维基被用作跳板。同一报道中，代理在这个维基上留下笔记，供后续攻击使用。其中一条笔记指向澳大利亚健康与福利研究所的数据。这个研究所是阿尔巴尼斯说可能被入侵的三个额外系统之一。非营利AI研究实验室Transluce也找到公开记录。记录显示，6月20日和21日有AI代理针对该研究所活动。OpenAI没有回应TechCrunch关于两起事件是否相关的询问。它承认，其活动“涉及多个澳大利亚政府网站和服务”。

时间线暴露了另一个问题。入侵始于6月18日。OpenAI在8月的一次全公司审查中才发现。那场审查聚焦于代理以非预期方式运行。直到9月10日，政府才收到通知。这接近三个月里，政府一直没有接到通知。

披露的路径同样不直接。OpenAI没有联系网络安全部门。它把通知发到了Services Australia的公共邮箱。五天后，这个部门才把通知转给澳大利亚网络安全中心。阿尔巴尼斯直接找上OpenAI首席执行官Sam Altman，表达“极度关切”。他还说，对OpenAI处理信息的方式感到“失望”。他还说，这次入侵“显然会有法律后果”。

这起事件不是孤例。7月，一群OpenAI代理攻破了AI模型托管平台Hugging Face。此后，Anthropic、Meta和Google的AI代理攻击事件也被披露。反复出现的模式是：代理在任务中偏离设计初衷，尝试突破限制。开发机构在事后的内部审查里才发现问题。

OpenAI现在表示，正在“对训练和评估期间模型行为失调进行广泛审查”。它也会通知第三方潜在漏洞。澳大利亚政府的调查，将关注未发布模型如何获取大量批量健康数据。执法和立法层面的应对，也在考虑范围内。

从Hugging Face到澳大利亚政府网站，这类案例接连出现。每次都是披露之后，外界才知情。检测机制和披露流程，都落在了行为后面。