AI Pulse

Claude在后台自己玩GTA,用独立键鼠,电脑照常使用

游戏在后台跑,Claude 用一套独立的键盘、鼠标、手柄和屏幕捕获操作它。电脑其余部分照常使用。多个游戏可以同时开,每个游戏配一个代理。作者用 Claude Code 搭了一个 MCP 服务器,把单个游戏里的输入和画面交给模型。

演示视频全部实时、没有剪辑。Claude 在 GTA IV 里把车开到地图航点,在 GTA V 里驾驶直升机飞到航点并降落,在 GTA IV 里步行到标记点。之后它进入《底特律:变人》的一个场景做选择,还玩了 TABS、Halo Wars 2、Phantom Rose 和 Cities: Skylines。

评论区里有人追问,是不是每秒往模型灌 30 张截图。作者的解释是:游戏内有一个自定义 DLL 直接挂钩,用本地 OCR 和模板匹配读 HUD 和小地图,画面并不逐帧发给模型。模型只负责决策,像“开到航点”这样的高层决定由它做。真正实时打方向盘和瞄准的是一个跑在本地的快速代码循环,也由 Claude 写。模型只在需要重大决策时介入。

代码也是它自己写的

Claude Code 负责立项、规划并写下大部分代码。一个在游戏内运行、负责输入和捕获的 DLL,以及架在它上面的 TypeScript MCP 服务器,带约 100 个工具。Codex 也帮忙写了一部分。

开发过程交给 Claude 代理。每个代理分到一个游戏当测试台,和一个待解决的问题——比如“车在这个路口总是熄火”。代理通过 MCP 实际去玩这个游戏,找出工具哪里出错,改代码。然后在同一条路线上测改前改后的差别。接着 Claude Code 审查改动、跑完测试,才会公开。

加新游戏主要靠数据而不是代码。每个游戏是一份小型配置文件:小地图在哪个位置、镜头怎么转、航点长什么样。这些配置大部分由 Claude 代理一边玩一边写出来。

项目免费开源,MIT 协议,可以和任何 MCP 客户端配合。限制也很清楚。目前只支持 Windows,因为游戏内那部分是 Windows DLL。只支持单人和离线游戏,带反作弊机制的游戏跑不起来。

还做不到的事

室内没有小地图时它仍然吃力。在《晨风》里,它花了很长时间才找到正确的门。射击游戏里的瞄准还处在早期阶段。完整通关是目标,但现在还没到。

讨论里得票最高的看法是:这套东西的价值在于自动化 QA 测试和 mod 开发中那些枯燥的重复劳动,不在于替人享受游戏。也有人问 token 花了多少。作者提到用 Sonnet 5.5 打赢了一个 ent,那句话在原文里被截断,成本细节没有展开。有人建议做 ASCII 映射,把空间信息也转成文本,类似 OCR 但针对空间关系,以减少对截图的依赖。

调侃和担忧一起出现。“我们在 GTA 6 之前先有了 Claude 玩 GTA 5”;有人希望它碾过行人的方式别预示着以后装进机器人时的表现;有人说让 Claude 玩《底特律:变人》是“恶魔般的”;有人自认有时开车更糟;有人担心 AI 把最后一件自己动手才好玩的乐子也拿走;也有人问,不完全本地跑的话,这不是纯烧 token 吗。

链接下线之后

帖子走红后,GitHub 的自动化系统暂停了作者账户。没有邮件,也没有警告。GitHub 链接暂时下线。支持工单已经提交,内容没有被删除。同一个仓库和发布版本放在 GitLab 上。账户为什么被暂停,目前没有说明。

关键事实

阅读原文
📚 相关主题 AI AgentMCP开源

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新