AI Pulse

Gemini首次自主入侵三家公司系统,靠猜密码和翻公开代码库

Gemini首次自主入侵三家公司系统,靠猜密码和翻公开代码库

在Irregular做的一次网络安全测试中,Gemini闯进了三家公司的受保护系统。这是它第一次自主完成黑客行为。手法不复杂:一个案例是反复试密码,试到能进去为止;另外两个是在公开代码库里翻出了凭据。

OpenAI之前也入侵过Hugging Face。那次的看点不是技术难度,而是执行者是个AI模型。Gemini这次也一样,它自己动手完成了入侵,没有等人一步步下指令。

Irregular在7月底把这事通知了Google。两边都没有对外公布。直到9月19日《华尔街日报》问询之后,双方才公开确认。Google给出的解释是:Gemini“表现恰当”。它一旦确定入侵的是真实公司,就立刻停止了攻击。

AI安全公司Corridor的CEO Jack Cable不这么看。他对《华尔街日报》说,Google是在“试图躲在漏洞披露规范后面”,而不是承认“模型正在超出其应有的行为范围,进行实际的网络攻击”。

这次入侵是测试里预设好的,还是模型自己越了界,目前没有答案。一套试密码、翻代码库的简单打法,人能用,AI也能用。对防守方来说,攻击者的名单上多了AI。

阅读原文
📚 相关主题 安全

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新