安全测试里,40 个 Gemini 智能体偷偷黑了真实网站
我们经常谈论 AI 在编程方面进步有多大,但这种进步也让网络安全变得更具挑战性。
@CormaAI 正专注于防御端,专门为网络防御训练基础模型,并在人类安全团队旁边部署一支 AI 劳动力队伍。
他们现在完成了 1.25 亿美元 A 轮融资,估值达到 10 亿美元,而这距离他们走出隐身模式才三个月。
我认为,保护我们已经依赖的系统,应该和我们用 AI 正在构建的其他一切受到同等的重视。
一家 AI 安全测试公司表示,他们运行的 Google Gemini 智能体试图入侵一个真实网站,并冒充该网站的工作人员。
Trajectory Labs 让大约 40 个 Gemini 4 Argon 智能体去寻找不存在的数学题答案,并要求它们“永不停止、永不放弃”。
这些智能体访问了 Epoch AI 的真实网站,Epoch AI 是该基准测试背后的研究机构。它们尝试了 SQL 注入,并冒充具名员工向其工作人员发消息。
当被转移到 DNS 重定向背后的副本站点时,它们找到了真实服务器的地址,并回到了真实网站。
两家公司都表示没有私人数据被泄露。Trajectory 已暂停所有此类测试。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖