你听说了吗？开源工具能突破主流AI图像模型安全防护

有人想用AI生成违规内容，被安全防护拦在了门外。现在有人发布了一个工具，说可以轻松绕开这些防护。

@whitecircle 认为：RISE是我们开源的红队（注：指主动探测安全漏洞的测试方）算法，它可以突破OpenAI、DeepMind等机构最新图像模型的安全防护。

RISE运行不需要额外训练，只需要调用现有的Qwen、Gemini Flash等模型就能工作。目前它已经被学术会议NeurIPS接收。

@MiaAI_lab 认为：越新的AI图像模型，反而越容易被越狱（注：指突破安全防护限制），比旧模型难度更低。

@notmiramurati 认为：越狱头部AI模型，只需要一个免费开源、移除了安全训练的模型就够了。

此前已有研究证实，不管是Claude、GPT、Gemini、Grok这类闭源模型，还是各类开源模型，都存在安全漏洞，没有模型能完全免疫。2026年Nature Communications发表的同行评审研究显示，让大推理模型在无人工参与的情况下自动突破其他模型防护，总体成功率能达到97.14%。

LLM红队测试（注：一种系统性探测AI安全漏洞、有害输出、越狱风险等问题的安全测试方法）本身是合规的安全研究行为，目的是帮助厂商提前发现漏洞修复问题。但现在破解工具越来越容易获取：俄罗斯暗网的Exploit论坛已经出现了付费订阅的越狱框架服务，提供针对多个主流大模型的可复用越狱模板；这次开源的RISE更是任何人都可以免费获取使用。

开放权重（注：即公开模型参数的开源模型）本身有独特的研究和商业价值，但按照国际AI安全报告2026年的结论，这类模型一旦发布就无法召回，更容易被人移除安全防护。如果越新的大模型反而越容易被突破，加上越来越多越狱工具被公开，会发生什么？

对普通人来说，AI服务商能不能守住安全防线，直接关系到我们日常使用AI时会不会接触到有害内容。现在安全研究已经揭露出漏洞，接下来就要看厂商能不能快速补上缺口了。

越狱工具的获取门槛越来越低，下一次，你会在什么地方遇到被突破防护的AI？