AI Pulse

AI编程助手可能被提示注入,但代码跑在沙盒里

AI编程助手可能被提示注入,但代码跑在沙盒里

这次探索来自作者和 Prime Radiant 的合作。Prime Radiant 是 Superpowers 等项目的 AI 研究实验室。出发点是具体的:想放心试本地模型,不必担心一次失误或一次提示注入,就让模型在机器上执行破坏性操作。

做法叫外部沙盒模式。代理负责思考、写代码、发起执行请求,代码本身跑进专用沙盒,代理留在沙盒外。沙盒要做的,就是把执行代码和外面隔开。

为了演示这个模式,他们放出了三个沙盒服务器实现。

external-sandbox-v86 跑一个 Node.js 服务器,再用 v86 在 WebAssembly 里运行 Alpine Linux。external-sandbox-container 是 Python Web 服务器,在 Apple Containers 实例里跑 Alpine Linux 沙盒。external-sandbox-quicksand 也是 Python Web 服务器,底层是微软的 Quicksand 沙盒库,QEMU 和 Alpine Linux 被打包进一个 Python 包。

三者依赖的技术不一样:一个走 WebAssembly,一个走 Apple Containers,一个走打包好的 QEMU。选哪个,得看所在平台和环境限制。

三个实现对外提供同一个 localhost API。把 Pi、Claude Code 或 Codex 配置好,它们要执行代码时,就往这个沙盒发 API 调用。代理管思考和写代码,沙盒管执行,职责分开了。

沙盒里还有可选的 HTTP/HTTPS 允许列表代理,用来精确控制代理代码能连哪些主机。凭据替换机制处理认证:代码可以发起需要认证的 API 调用,但密钥不用交给代理。

沙盒还在跑的时候,这个允许列表代理也能改。作者放出的界面支持实时重新配置,不用重启沙盒。AI 干着活时调整安全策略,这件事是可行的。

有几个问题原文没回答。性能开销多大,会不会拖慢编程助手的响应,没有说明;除了那三个代理还支持谁,不清楚;隔离强度能否挡住所有类型的提示注入,没有定论;实现适合实验还是生产,也没说。

作者一直对安全运行不受信任代码这件事着迷,外部沙盒模式提供了一条继续试不同做法的路子。三个实现都已放出。

关键事实

阅读原文
📚 相关主题 开源安全

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新