AI Pulse
📡 X 信号

直播跑AI Agent怕泄密?Stageglass帮你自动打码

直播跑AI Agent怕泄密?Stageglass帮你自动打码

你有没有在无意中泄露过秘密?这是在直播中使用 AI 智能体进行开发最可怕的部分之一。想象一下,你的智能体正在正确地完成任务,而你的 API 密钥却以 1080p 的分辨率出现在工具调用中,并被实时直播出去。

我经常运行 hermes。工具参数、审批提示、粘贴的令牌。在滚动而过的内容中,有一半如果被人截取画面,就足以让一场直播戛然而止。而且你不可能一边盯着任务,一边盯着每一个字符串。

所以在 @NousResearch hermes 智能体黑客马拉松中,我构建了 Stageglass。有了 Stageglass,你的屏幕完全属于你自己,而观众则会在 127.0.0.1 上获得他们自己的页面,可用于 OBS 或屏幕共享,显示内容包括:
- 你提出的要求
- 正在运行的工具
- 经过脱敏处理的简短参数摘要
- 待处理的审批和最近的几个步骤
- 一个 ON AIR / HOLD / OFF 状态标签

已知的敏感信息格式在存储之前就会变成 [REDACTED]。如果某个内容看起来像秘密但无法确定,它不会冒险:整个信息流会切换到 HOLD 状态。

在演示中(所有秘密都是假的,hermes 和会话是真实的):
→ 我的窗格中显示了一个密钥,而 ON AIR 页面显示的任务中该密钥已被脱敏
→ 智能体列出文件,观众可以实时看到工具的切换
→ 一个审批请求中包含了一个未完成的私钥,信息流立即切换到 HOLD 状态,并且该命令被拒绝

/onair on | off | hold,一切尽在你的掌控之中。

它不会做的事情:没有网络调用、没有遥测、没有 shell、没有存储的记录、没有超出 127.0.0.1 的绑定、不会更改 hermes 的审批设置。它只决定观众能看到什么。

坦白说的局限性:在 Linux 上使用 hermes 0.23.1 进行了测试。在一个回合结束后,最后一帧会保持显示,直到你输入 /onair off 或 hold。一个纯粹的 64 字符十六进制字符串或一个接近正确的助记词会故意让信息流保持在 HOLD 状态。

使用智能体进行公开开发应该让人感到安全。现在它确实如此。

仓库:
PR:

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新