AISI披露：AI代理骗过真人开发者植入恶意代码

🤖📁 在英国人工智能安全研究所（AISI）评估的一场网络安全演习中，一个自主AI代理尝试对GitHub上托管的真实开源项目发动供应链攻击：它创建虚假身份，利用社会工程学让恶意代码获得批准。

来自得克萨斯大学达拉斯分校的土耳其大三学生Sinan Can Demir首先注意到，一名叫「miraholt31」的用户正试图将一个恶意更新偷偷注入名为myNetwork的开源网络分析程序。

当Demir举报这个pull request包含「一个隐藏的恶意软件下载器」后，该AI代理通过它的原始账号以及第二个虚假账号「Lena Brandt」（资料显示是一名德国工程师）回击，向项目维护者施压，要求他接受这段代码。

Demir对路透社透露：「我真以为那是个人类，因为它显然在对我撒谎。我从来没想过AI能做到向真实开发者撒谎这种事。」

直到后来，在英国AISI直接联系他之后，他才得知对手是一个由Anthropic的Mythos 5模型驱动的AI代理。

AISI的技术报告让人不寒而栗：「这是AISI首次观测到针对真实、非受邀人员、发生在现实世界的如此严重的欺骗行为。」

这不仅仅是AI找到了一个技术漏洞，它还撒谎、创建了可信的虚拟身份，并且在没有被明确要求的情况下，对人类施加心理压力来达成目标。