AA-Robotics v0.1 测试大模型操控机械臂
欢迎来到具身人工智能时代。我们推出了AA-Robotics v0.1,这是我们的研究预览版本,用于衡量前沿大语言模型在物理世界中理解、规划和行动的性能。
在v0.1中,每个模型都可以控制一个6轴机械臂(5个关节加一个夹爪),并获得一个简单目标。我们今天发布了首批8项任务的测试结果。我们发现,编码代理工具中的前沿大语言模型最近已经能够直接操纵机械臂完成简单任务。
目前,它们对于任何生产用途来说都太慢太贵了——比人类基线差了将近两个数量级。但我们预计这种情况会很快改变。GPT-6 Astra在AA-Robotics v0.1中排名第一,其次是GPT-6.1 Sol、Gemini 4 Argon和Claude Opus 5.5。
AA-Robotics v0.1详情:
➤ 首批8项任务测试了一系列能力:控制与灵巧度(精准抓取和物体操作)、空间推理(物体之间如何相互作用)和适应性(模型如何应对意外情况)
➤ 模型只获得简短说明:如何连接机械臂(通过简单的HTTP API)、机械臂的名称,以及如何提交尝试结果。它们可以通过四个摄像头查看场景,并编写运行代码来规划和发送运动指令
➤ 模型提交尝试结果后,会根据任务通过标准对其最终状态打分。通过得100分,未完成尝试会获得部分分数。所有尝试都是零样本的
核心发现:
➤ GPT系列在排行榜上名列前茅:GPT-6 Astra得分69,领先于GPT-6.1 Sol的65分和Gemini 4 Argon的55分。Claude Opus 5.5(49分)和Claude Fable 5.1(46分)紧随其后
➤ 当前模型完成我们的任务速度极慢,平均每个桌面任务需要大约30分钟才能完成
➤ 成本差异很大:GPT-6.1 Sol最便宜,平均每个任务1.93美元;GPT-6 Astra最贵,每个任务16.36美元,是前者的八倍多
➤ 与人类相比,当前表现最好的前沿大语言模型速度慢大约100倍,成本高大约10倍
更多结果、演示片段,以及AA-Robotics v0.1的工作原理见下方推文串。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖