Claude在后台自己玩GTA,用独立键鼠,电脑照常使用
游戏在后台跑,Claude 用一套独立的键盘、鼠标、手柄和屏幕捕获操作它。电脑其余部分照常使用。多个游戏可以同时开,每个游戏配一个代理。作者用 Claude Code 搭了一个 MCP 服务器,把单个游戏里的输入和画面交给模型。
演示视频全部实时、没有剪辑。Claude 在 GTA IV 里把车开到地图航点,在 GTA V 里驾驶直升机飞到航点并降落,在 GTA IV 里步行到标记点。之后它进入《底特律:变人》的一个场景做选择,还玩了 TABS、Halo Wars 2、Phantom Rose 和 Cities: Skylines。
评论区里有人追问,是不是每秒往模型灌 30 张截图。作者的解释是:游戏内有一个自定义 DLL 直接挂钩,用本地 OCR 和模板匹配读 HUD 和小地图,画面并不逐帧发给模型。模型只负责决策,像“开到航点”这样的高层决定由它做。真正实时打方向盘和瞄准的是一个跑在本地的快速代码循环,也由 Claude 写。模型只在需要重大决策时介入。
代码也是它自己写的
Claude Code 负责立项、规划并写下大部分代码。一个在游戏内运行、负责输入和捕获的 DLL,以及架在它上面的 TypeScript MCP 服务器,带约 100 个工具。Codex 也帮忙写了一部分。
开发过程交给 Claude 代理。每个代理分到一个游戏当测试台,和一个待解决的问题——比如“车在这个路口总是熄火”。代理通过 MCP 实际去玩这个游戏,找出工具哪里出错,改代码。然后在同一条路线上测改前改后的差别。接着 Claude Code 审查改动、跑完测试,才会公开。
加新游戏主要靠数据而不是代码。每个游戏是一份小型配置文件:小地图在哪个位置、镜头怎么转、航点长什么样。这些配置大部分由 Claude 代理一边玩一边写出来。
项目免费开源,MIT 协议,可以和任何 MCP 客户端配合。限制也很清楚。目前只支持 Windows,因为游戏内那部分是 Windows DLL。只支持单人和离线游戏,带反作弊机制的游戏跑不起来。
还做不到的事
室内没有小地图时它仍然吃力。在《晨风》里,它花了很长时间才找到正确的门。射击游戏里的瞄准还处在早期阶段。完整通关是目标,但现在还没到。
讨论里得票最高的看法是:这套东西的价值在于自动化 QA 测试和 mod 开发中那些枯燥的重复劳动,不在于替人享受游戏。也有人问 token 花了多少。作者提到用 Sonnet 5.5 打赢了一个 ent,那句话在原文里被截断,成本细节没有展开。有人建议做 ASCII 映射,把空间信息也转成文本,类似 OCR 但针对空间关系,以减少对截图的依赖。
调侃和担忧一起出现。“我们在 GTA 6 之前先有了 Claude 玩 GTA 5”;有人希望它碾过行人的方式别预示着以后装进机器人时的表现;有人说让 Claude 玩《底特律:变人》是“恶魔般的”;有人自认有时开车更糟;有人担心 AI 把最后一件自己动手才好玩的乐子也拿走;也有人问,不完全本地跑的话,这不是纯烧 token 吗。
链接下线之后
帖子走红后,GitHub 的自动化系统暂停了作者账户。没有邮件,也没有警告。GitHub 链接暂时下线。支持工单已经提交,内容没有被删除。同一个仓库和发布版本放在 GitLab 上。账户为什么被暂停,目前没有说明。
关键事实
- 作者用Claude Code构建了一个MCP服务器,让Claude在单个游戏内拥有独立的键盘、鼠标、手柄和屏幕捕获能力。
- 游戏在后台运行,用户可以同时正常使用电脑,且多个游戏可以同时运行,每个游戏配一个AI代理。
- 演示视频中,Claude在GTA IV中开车到地图航点、在GTA V中驾驶直升机到航点并降落、在GTA IV中步行到标记点,全部实时且未剪辑。
- Claude还玩了《底特律:变人》的一个场景,以及TABS、Halo Wars 2、Phantom Rose和Cities: Skylines。
- Claude Code负责搭建项目、规划并编写大部分代码:一个在游戏内运行用于输入和捕获的DLL,以及一个基于它的TypeScript MCP服务器,包含约100个工具。
- 每个游戏是一个小型配置文件:小地图位置、摄像机转向方式、航点外观等。因此支持新游戏主要是数据而非代码,Claude代理在玩游戏时编写大部分配置文件。
- Codex也帮助编写了部分代码。
- 目前无法做到:在没有小地图的室内环境中仍然吃力,在《晨风》中花了很长时间才找到正确的门;射击游戏中的瞄准还处于早期阶段;完整通关是目标但尚未实现。