MalwareTech实测后反驳：低技能罪犯靠开源LLM挖不到零日

我就喜欢有人想当然地认为，我对当前一代开放权重大语言模型能否帮助低技能罪犯找到有用的零日漏洞所持的观点，是基于自己根本没用过大语言模型。

Anthropic 把我加入他们的 CVP 后，我做的第一件事就是搭建了一套自动化零日漏洞利用流水线。后来因为 token 成本高得离谱，我把它改回了使用开放权重模型，所以我对当前前沿模型和开放权重模型的能力都有相当好的了解。我很清楚大语言模型能做什么，也知道只要有正确的引导或工具，它们就能找到零日漏洞。

我们的分歧在于，有人声称低技能罪犯只要拿起像 GLM 这样的模型，就能找到可用的零日漏洞。我认为：

a) 超过 90% 的 CVE 对威胁行为者来说实际上毫无用处。威胁行为者有非常具体的行动需求，“随机软件中的随机问题”并不在他们的考虑范围内。

b) 许多（甚至可能是大多数）被评为严重的 CVE 在现实条件下并不具备可利用性，无法满足威胁行为者的需求。中国有专门的团队在做 n 日漏洞利用，观察他们的工作就能很好地了解，到底有多少严重的 RCE 漏洞是真正有用的。

c) 没有漏洞开发背景、技术技能有限的威胁行为者，即使能完全不受限制地使用开放权重大语言模型，也很难或根本无法找到有用的零日漏洞。

d) 在软件漏洞利用、大语言模型和网络威胁情报方面经验很少的人，看到专业漏洞研究人员使用下一代前沿模型工作，就会对他们所做的事情到底有多“容易”产生极其不切实际的看法。

e) 所有威胁行为者，尤其是那些技术不熟练的，在零日漏洞利用和使用新型（非公开）n 日漏洞方面都明显不足，而“任何人只要拿起 GLM 就能找到有用的零日漏洞”这一理论的支持者，甚至一直拒绝承认这一事实，更不用说试图解释它了。

我不是以一个只是登录社交媒体说些无知废话的人的身份来谈论这件事的。我是以一个自大语言模型问世以来花了数千小时研究其能力，并且整个职业生涯都在追踪威胁行为者及其能力的研究者的身份来谈论这件事的。

我有大量的真实数据，因为那些技术不熟练的 AI 驱动型威胁行为者，很容易不小心用自己的恶意软件感染自己。这往往会导致他们把整个硬盘连同所有 AI 提示日志一起，泄露到一个凭感觉写出来的、带有客户端身份验证的 C2 服务器上（管理员凭证被硬编码在 javascript 里，或者类似的愚蠢做法，所以任何人都能登录并下载）。

在我的整个职业生涯中，我一直非常支持“学位和证书不重要，