AI编程助手可能被提示注入,但代码跑在沙盒里
这次探索来自作者和 Prime Radiant 的合作。Prime Radiant 是 Superpowers 等项目的 AI 研究实验室。出发点是具体的:想放心试本地模型,不必担心一次失误或一次提示注入,就让模型在机器上执行破坏性操作。
做法叫外部沙盒模式。代理负责思考、写代码、发起执行请求,代码本身跑进专用沙盒,代理留在沙盒外。沙盒要做的,就是把执行代码和外面隔开。
为了演示这个模式,他们放出了三个沙盒服务器实现。
external-sandbox-v86 跑一个 Node.js 服务器,再用 v86 在 WebAssembly 里运行 Alpine Linux。external-sandbox-container 是 Python Web 服务器,在 Apple Containers 实例里跑 Alpine Linux 沙盒。external-sandbox-quicksand 也是 Python Web 服务器,底层是微软的 Quicksand 沙盒库,QEMU 和 Alpine Linux 被打包进一个 Python 包。
三者依赖的技术不一样:一个走 WebAssembly,一个走 Apple Containers,一个走打包好的 QEMU。选哪个,得看所在平台和环境限制。
三个实现对外提供同一个 localhost API。把 Pi、Claude Code 或 Codex 配置好,它们要执行代码时,就往这个沙盒发 API 调用。代理管思考和写代码,沙盒管执行,职责分开了。
沙盒里还有可选的 HTTP/HTTPS 允许列表代理,用来精确控制代理代码能连哪些主机。凭据替换机制处理认证:代码可以发起需要认证的 API 调用,但密钥不用交给代理。
沙盒还在跑的时候,这个允许列表代理也能改。作者放出的界面支持实时重新配置,不用重启沙盒。AI 干着活时调整安全策略,这件事是可行的。
有几个问题原文没回答。性能开销多大,会不会拖慢编程助手的响应,没有说明;除了那三个代理还支持谁,不清楚;隔离强度能否挡住所有类型的提示注入,没有定论;实现适合实验还是生产,也没说。
作者一直对安全运行不受信任代码这件事着迷,外部沙盒模式提供了一条继续试不同做法的路子。三个实现都已放出。
关键事实
- 作者探索了新的沙盒方式,使本地模型运行更安全,防止提示注入攻击导致破坏性操作。
- 该项目与Prime Radiant合作完成,Prime Radiant是Superpowers等项目的AI研究实验室。
- 外部沙盒模式:代理执行的代码运行在专用沙盒内,而代理本身在沙盒外。
- external-sandbox-v86运行Node.js服务器,使用v86在WebAssembly中运行Alpine Linux。
- external-sandbox-container是Python Web服务器,在Apple Containers实例中运行Alpine Linux沙盒。
- external-sandbox-quicksand是Python Web服务器,使用Microsoft的Quicksand沙盒库,该库将QEMU和Alpine Linux打包在Python包中。
- 每个实现提供相同的localhost API,可配置Pi、Claude Code或Codex在需要执行代码时向该沙盒发送API调用。
- 沙盒包含可选的HTTP/HTTPS允许列表代理,可控制代理代码允许通信的主机,并提供凭据替换机制,无需与代理共享秘密即可进行认证API调用。