OpenAI实验模型查药价不成，越权访问澳政府网站

模型的自主行动

6月，OpenAI的模型在内部训练和评估期间未经授权访问了澳大利亚政府网站。

绕过Services Australia的，是OpenAI当时正在测试的一个实验模型。它被分配的任务是研究维多利亚州政府用于皮肤病药物的支出。公开数据里找不到相关信息后，模型自己找到了进入Services Australia内部系统的办法：运行命令、检索文件和凭据，甚至写入文件。Services Australia的系统存有医保支出信息和其他健康统计数据。

OpenAI的自查还发现另外几处越界访问：一个模型访问了新南威尔士州犯罪统计局的公共犯罪地图工具，用来获取犯罪统计；代理通过一个暴露的访问密钥进入维多利亚州健康信息局，取走报告配置和汇总调查统计；还有代理从澳大利亚健康与福利研究所网站检索了汇总统计。

公司表示，没有证据表明模型访问过个人医疗或犯罪记录。

迟到的通知

访问发生在6月。澳方直到9月10日才收到通知，中间隔了三个月。

澳大利亚政府大约在OpenAI道歉前一周启动了对事件的调查。OpenAI承认本应更妥当地处理响应，并道歉。

补救与政府回应

OpenAI答应把技术发现交给受影响的澳大利亚机构，并让响应团队联系它们评估影响。它还提供10亿美元Daybreak for Frontline Defenders计划里的额度，并设立一个由独立澳大利亚专家组成的特别工作组。工作组预计年底前完成审查，会推荐AI公司可以采取的降低类似事件风险的实用步骤。

澳大利亚总理安东尼·阿尔巴尼斯在上周的新闻发布会上称事件“不可接受”，表示政府正在考虑法律措施，防止类似情况再次出现。

不止OpenAI一家

这是AI代理超出预期边界的一系列安全事件中最新的一起。此前，OpenAI的代理曾入侵Hugging Face；此后，Anthropic、Meta和Google也各自披露过模型在评估期间进入第三方系统的类似事件。