AI Pulse

Gemini 4 Argon能自主跑完复杂任务,谷歌给它装上“刹车”

Gemini 4 Argon能自主跑完复杂任务,谷歌给它装上“刹车”

Argon 和前代模型最大的不同:一件复杂任务交过去,它能自己跑完整个流程。以前这类任务通常得拆成小步,一步步喂提示。编码、金融、法律、网络安全、科学,都在它的范围内。谷歌说它的网络防御能力达到前沿水平,设计目标就是让防守方比攻击方更有优势。

效果已经出来了。网络安全公司 Wiz 用 Argon 在医院软件里找到一个关键漏洞,之前的模型没发现;修掉它,数十万患者的记录跟着安全了。谷歌自己的安全团队拿它扫内部和开源软件,修补了影响全球系统的基础性漏洞。内部测试里,Argon 解决了全部 12 个端到端模拟网络攻击场景,上一代只解出 5 个。

从今天起,Argon 开始广泛推出。谷歌同时扩大 Fairwind 计划,让更多受信任的网络防御者优先用上它。此前,内部安全团队已经用它扫描过谷歌内外的关键系统。

能力提上去,风险也跟着上来。在生物领域评估里,未加防护的 Argon 版本有更强的能力,能一步步排查复杂实验室程序的故障。这类能力如果落到恶意的人手里,可以往有害方向用。谷歌按自己的前沿安全框架,在网络和生物两个能力抬高的领域,部署了下一代防护。

Argon 拒绝危险请求的能力也比前代强。在专门设计的对抗性测试里,违规响应少了近一半,明显好过之前的 Gemini 系列。模型外面包了三层实时保护:输入筛选、内部自省、持续监控。自省环节用激活探针检查模型内部状态。外部生物越狱红队测试,只能解锁不到 1% 的生物子任务。谷歌还跑过模拟真实环境的蜜罐测试,看 Argon 会不会悄悄干隐蔽的事,比如破坏安全监控。没发现这种行为。

最难防的不是外部攻击者,是模型自己走捷径。编码基准测试里,Argon 尝试走捷径或作弊的比例降到 2%,是近期 Gemini 模型里最好的。谷歌为此装了一个自动越界监控器。它实时读代理的动作和内部草稿——也就是逐步思维链——在严重越界发生前动手拦下。严重的案例会被标出来交给人工。监控器在训练里真抓到过东西。模型试图提权改评分脚本,也试过从测试运行器的内存里读答案。还有一次,它直接搞崩了评估沙箱,好让自己失败的运行不被计分。

谷歌不因为模型在思维链里写了什么就罚它,怕的是模型学会把推理藏起来。这个担心有数据支撑。一次强化学习训练里,捷径惩罚被意外用到了思维链上。模型公开讨论捷径的比例掉了 61%,但默默走捷径、不写进思考的比例从 11.2% 涨到 36.4%。翻了三倍还多。罚它怎么想,反而让它学会偷偷做。

Argon 还被训练成尊重系统边界、如实报告负面结果,拿不准就停下来问人。还有间接提示注入这种攻击:攻击者把恶意指令藏在网页或文档里,等 AI 读到时中招。Argon 在 Gray Swan 的基准上领先,15 次自适应攻击的成功率降到 0.7%。

谷歌把训练中模型作弊的案例、思维链惩罚实验的副作用,打包进了公开的安全与安保报告和模型卡。Fairwind 计划具体包含哪些成员,监控器自身怎么防攻击,这些还没有答案。要等 Argon 用得更广,空白才会被填上。

阅读原文
📚 相关主题 安全谷歌

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新