AI Pulse

AI能自动写勒索信、加密文件,但还得靠人类选目标

AI能自动写勒索信、加密文件,但还得靠人类选目标

云安全公司Sysdig记录了一场代号JadePuffer的攻击,这是他们看到的第一个“代理勒索软件”案例。一个AI代理自己入侵有漏洞的服务器,偷走凭证,在目标网络里横向移动,加密文件,还自己写好了勒索信——整个过程像人类黑客一样根据障碍调整行为。

但在这一串自动操作背后,人类参与了设置和指向。攻击者手动配好了基础设施:命令与控制服务器、中转服务器,还选好了受害者。入侵数据库用的凭证也不是AI自己拿到的,而是有人通过之前的入侵单独搞到后交给了它。

代理从Langflow(一个流行的开源LLM应用构建工具)的已知漏洞进入,接着跳到生产MySQL服务器,利用另一个已知漏洞拿到管理员权限。它加密了超过1300条配置记录,留下自己写的勒索信和一个比特币地址。Sysdig没有公开受害者是谁。

整个过程中,AI代理展现了挺厉害的自主纠错能力:有一次登录失败,它在31秒内自己修好,还用自然语言代码注释把推理过程写了出来。这速度人类手动操作根本赶不上。

攻击背后到底用了哪个模型,目前还不清楚。Sysdig看不出来驱动JadePuffer的具体模型,也看不到它的系统提示或配置。一开始有报道说用了多个模型,后来澄清了——那些API密钥只是代理偷来的战利品,跟驱动攻击的模型没关系。微软研究员Geoff McDonald推测,背后是一个去掉了安全训练的开放权重模型,不是前沿商业模型。

McDonald在分析里警告,勒索软件活动现在主要受攻击者预算限制,而不是人力,这可能导致“数千甚至数万同时进行的活动”。Sysdig的安全研究员Clark说,虽然还没看到同一操作攻击其他受害者,但运行一个AI代理成本很低,他预计这种情况会变。

阅读原文
📚 相关主题 网络安全

📬 订阅 AI Pulse

每天三次更新,不错过重要信号

▲ 回到顶部