AI Pulse

OpenAI模型两小时找出人类难发现的Ubuntu高危漏洞,补丁已发布

OpenAI模型两小时找出人类难发现的Ubuntu高危漏洞,补丁已发布

一个人,一句指令,两小时

Max Justicz 是初创公司 Charge Robotics 的 CTO 兼联合创始人,对网络安全只是业余兴趣。几年前,他在同一套代码库里发现过一个漏洞,后来被修复了。这次他通过 OpenAI 的 Daybreak Blue 项目,拿到了 7 月发布的 GPT 5.6 Sol。这个项目专为网络安全防御者开放前沿模型。

Justicz 做的事很简单。他把同一套代码库丢给 ChatGPT,用自然语言说:我之前在这套代码里发现过一个漏洞,后来修好了,请找出同样严重或更严重的。两小时后,AI 返回了结果。

按 Justicz 的说法,这个漏洞极其复杂,人类很难找到。一旦被利用,攻击者可以完全控制运行 Ubuntu 的服务器。Ubuntu 是广泛使用的开源 Linux 操作系统。

他把问题报告给了维护该软件的 Debian 项目。补丁已经发布,目前没有已知的利用证据。为了找出这几个漏洞,Justicz 自己花了大约 5000 美元的订阅费和 token 费用。

OpenAI 正在把这件事规模化

OpenAI 宣布了专注网络安全的新模型 ChatGPT Cyber,只提供给 Daybreak Red 里最高层级的用户。Daybreak Red 面向攻击性网络安全研究人员,给他们漏洞搜寻和开发工具。

同一个模型已经被用来扫描 Linux 内核并准备补丁,找出 948 个潜在问题。这 948 个是潜在问题,不等于 948 个严重漏洞。在 Firefox 里,它找到了 81 个“新颖”漏洞。Linux 这轮搜寻花了 120 万美元。作为对比,OpenAI 为解决一个著名的流体动力学问题投入的 token 费用约为 600 万美元。

OpenAI 技术研究员 Eric Wallace 说,公司正在把大量前沿算力投向开源代码库的漏洞发现和修补。这项工作完全免费。按公司的说法,目标是大幅扩展 Daybreak,让各种规模的组织、独立研究人员和开源维护者都能用上高级安全研究工具。它还宣布了一项 10 亿美元计划。这笔钱用来支持项目中做关键基础设施的网络安全人员,比如电网和水系统。

数千人对更多黑客

这项能力不只属于防御者。OpenAI 说,参与 Daybreak 的网络安全专业人员只有“数千名”,潜在黑客的数量比这个大得多。

加入 Daybreak 的审核流程并不复杂:Justicz 本人只上传了一张驾照照片。这个流程能拦住多少恶意行为者,目前不清楚。

另一头的担心是反过来的。Justicz 观察到,OpenAI 最近似乎“削弱”了 Daybreak Blue,让它在发现漏洞上不那么好用。而恶意行为者可以部署没有护栏的开源权重模型,用不受限制的方式做同样的事。防御方拿不到最好使的工具,攻击方没有限制,守方在这一轮里并不占便宜。

Justicz 在社交平台写道:如果有更多时间、更少限制的模型,能做的事几乎无法想象。他还说,把一份没人审计过的代码或二进制文件交给一个强模型,眼下有巨大的套利空间。未来几个月,应该预期一些极其疯狂的漏洞被找到、被利用。

关键事实

阅读原文
📚 相关主题 网络安全OpenAI

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新