机器人挪一下杯子就不会了,缺的不只是更聪明的模型
想象让机器人从桌上拿起一个杯子。
它识别出杯子,移动机械臂,调整夹爪,成功举起物体。
一切正常。
现在把杯子稍微挪动一下。改变光线。在它的路径上放另一个物体。
突然间,机器人就吃力起来。
任务并没有显著改变。环境变了。
这是 Physical AI 的难题之一:当物理世界并不总是保持机器预期的样子时,如何教机器可靠地完成任务。
构建更聪明的模型是解决方案的一部分,但不是全部。
机器人还需要更好的训练体验、真实的环境、与物理世界交互的方式,以及能在出错时识别问题的系统。
这就把我们带到机器人领域一个值得更多关注的部分:数据基础设施。
1. 为什么训练机器人不一样
用文本训练的 AI 模型可以从海量书面信息中学习模式。
机器人面对的挑战不同。
它们必须把自己观察到的内容与自己身体实际做出的动作联系起来。
当机械臂拿起一个物体时,它的学习过程可能涉及几类信息:
- 显示环境的相机图像。
- 描述物理状况的传感器读数。
- 关节位置和运动数据。
- 夹爪的位置和朝向。
- 任务执行过程中所做的动作。
- 任务是否成功的信息。
一段人拿起玻璃杯的视频可能展示了发生了什么,但不一定包含机器人复现这次交互所需的全部信息。
观察、动作和结果之间的关系才是关键。
这让收集有用的机器人数据比单纯录制更多视频更复杂。
这也让这个过程变得昂贵。开发者需要合适的硬件、不同的环境、训练有素的操作员,以及可靠地整理和标注所产生信息的方式。
TechCrunch 2026 年 6 月 17 日的一篇报道通过 XDOF 探讨了这一挑战。XDOF 是一家构建机器人数据采集工具、流水线和标注系统的公司。
XDOF 融资 7000 万美元来开发这套基础设施,显示出投向 Physical AI 中那些不那么显眼部分的资金规模。
有意思的一点是,行业不只是在投资更聪明的模型,也在投资教这些模型所需的系统。
2. 更多数据并不自动带来更好的机器人
拥有一个大的数据集和拥有一个有用的数据集,是两回事。
想象收集一万条机器人从完全相同的位置拿起同一个物体的录像。
那可能产生大量信息,但不一定能让机器人准备好应对不同的物体、相机角度、环境或意外变化。
现在设想在不同的房间、物体摆放和工作条件下收集演示。
机器人获得的体验范围会更广。
研究已经提供了有用的例子,说明这种多样性为何重要。
DROID:从不同环境中学习
DROID(分布式机器人交互数据集)项目推出了一个大规模数据集,包含约 76000 条演示轨迹、350 小时交互数据,覆盖 564 个场景。
研究人员证明,用 DROID 训练提升了策略表现、鲁棒性和泛化能力。
重要的想法是:机器人系统可以从单一受控环境之外收集的体验中受益。
Open X-Embodiment:跨不同机器人学习
另一个重要项目是 Open X-Embodiment,这是 Google DeepMind 等机构参与的研究合作。
它汇集了来自 22 种不同机器人本体的超过一百万条机器人轨迹。
研究人员开发了 RT-X 模型,并证明了正向迁移:机器人可以从其他机器人系统收集的体验中学习。
这挑战了围绕单台机器和单个任务开发独立学习系统的传统做法。
当然,不同机器人之间的知识迁移并非自动发生。硬件、传感器和动作格式仍然带来兼容性挑战。
尽管如此,这项研究展示了共享机器人体验的潜在价值。
两个项目给出的教训很直接:
有用的机器人数据集应该包含有意义的多样性,而不只是大量重复的演示。
3. 更大的挑战:环境变化时会发生什么?
即使机器人在训练中表现良好,执行过程中条件变化时,它的表现也可能下滑。
最近一个名为 LIBERO-MAX 的研究项目考察了这个问题。
该研究发表于 2026 年 9 月 29 日,评估了 14 个机器人策略,覆盖 8000 对匹配的模拟任务执行。
研究人员在任务进行中引入变化,包括移动物体、改变相机视角、添加障碍物和改变视觉条件。
结果很显著。
在受测策略中,引入变化后任务成功率下降了 11 到 25.7 个百分点。
这告诉我们一件重要的事。
机器人在受控条件下完成任务,并不一定意味着它能在情况中途变化时适应。
这项研究使用的是基于模拟的评估,因此其结果不应被误认为是现实世界中每台部署机器人的直接测量值。
但它仍然提供了理解和衡量机器人学习中一个重大挑战的有用方式。
这引出另一个问题:
机器人系统如何收集体验、识别错误并改进行为,而不是反复遇到同样的问题?
这正是围绕 Physical AI 的基础设施变得有意思的地方。
4. Inverted Lambda 如何融入图景
Inverted Lambda 通过围绕三个相互关联领域设计的基础设施来应对这一挑战:
理解物理环境。
允许人类操作机器人系统。
评估这些系统的表现。
这个项目不只关注机器人内部的智能,而是围绕支撑其开发的流程来构建。
让我们看看它的三个主要组件。
Physical Agents SDK:把真实环境变成模拟
一台为在仓库工作而设计的机器人,需要的不仅仅是对仓库长什么样有一个笼统的认识。
它需要关于自己将要操作的实际环境的信息。
物体位置、房间布局和物理条件都会影响它成功完成任务的程度。
这正是 Inverted Lambda 的 Physical Agents SDK 旨在解决的问题。
根据项目 9 月 21 日的产品公告,该 SDK 使用机器人相机、传感器和激光雷达采集信息。公告还提到用手机和平板采集部署环境。
后续更新进一步澄清了范围。9 月 30 日,团队展示了一台 Unitree G1 在操作过程中采集自己的工作空间,将其重建为模拟场景,然后改变布局、光线甚至机器人本体,让操作员通过浏览器在这些变体中进行遥操作。10 月 28 日的更新则将该 SDK 描述为在机器人已经所在的任何地方采集每一次会话——已部署、试点中、推广模型时,或正在进行遥操作时——并把结果打包成轨迹、传感器和空间数据集。机器人所有者和个人贡献者会因他们添加的环境获得奖励。
采集到的信息随后可用于创建代表这些物理位置的模拟。
为什么这很重要?
开发者可以借助真实环境的数字表示开展工作,在完全依赖实体试验之前试验机器人任务。
然而,模拟质量至关重要。
一个看起来真实、却不能准确反映物理行为的数字环境,可能产生误导性的结果。
真正的价值将取决于模拟条件与机器人在部署期间遇到的实际情况有多接近。
遥操作平台:通过人类动作学习
机器人不必独立完成每一项任务。
有时,人类操作员可以远程引导机器人、观察它的动作并调整其行为,以达成特定目标。
这个过程叫作遥操作。
再想想那个杯子的例子。
人类操作员可以引导机械臂靠近杯子,调整手腕位置,控制夹爪,移动物体。
每一个动作都提供了关于任务如何完成的有用信息。
Inverted Lambda 的网页版遥操作平台旨在通过基于浏览器的界面让这类交互变得可及。操作员可以使用键盘和鼠标、精密操纵杆或 Meta Quest 3 头显。任务从模拟练习开始,达到一定训练等级后进入真实硬件,Genesis Access Pass 则面向希望跳过排队、优先预约实体机器人的用户。
有意思的地方在于把人类引导的动作与机器人学习连接起来的机会。
开发者不必完全依赖自主尝试,而是可以从人类操作员那里收集演示,研究任务是如何完成的。
当机器人遇到自己无法可靠完成的任务时,人类引导尤其有价值。
这也打开了一个经济维度。通过让遥操作在浏览器中可用,并奖励经过验证的贡献,平台把分布式的人类操作员变成持续的轨迹数据来源,而不是只依赖集中的实验室团队。
视频评估引擎:理解哪里出了错
收集机器人演示只是流程的一部分。
理解它们的质量是另一部分。
设想一个机器人成功拿起了物体,但在到达目的地之前把它掉了。
它完成任务了吗?
严格来说不算。
没有适当的评估,就很难区分成功的尝试和不成功的尝试。
Inverted Lambda 的视频评估引擎引入了一种方式,让人们可以回看录制的机器人运行过程并评估其表现。10 月 9 日的更新显示,用户从每个可用相机视角观看真实机器人的录像,给每项任务完成得如何打分,这些分数帮助判断哪些数据足够好、可以用于训练。
这创造了一层额外的问责机制。
操作员和评估者可以检查发生了什么,判断机器人是否达成了目标,而不是把每一段录像都视为同等有价值。
然而,评估需要一致的标准。
不同的评估者不应仅仅因为成功标准不清晰,就对同一项任务得出完全不同的结论。如果系统要扩展到一个小型可信团队之外,清晰的参考演示、多相机视角以及评估者之间的一致性指标都将很重要。
这三个组件合在一起,对应机器人开发的不同部分:
Physical Agents SDK:机器人在哪里操作。
遥操作平台:机器人如何被引导。
视频评估引擎:它们的表现如何被评估。
更大的机会在于把这些组件连接成一个连续的学习过程。
5. 通过 Real2Sim2Real 连接一切
Physical AI 中最有意思的方向之一是 Real2Sim2Real 方法。
其理念是把真实世界环境与模拟连接起来,用模拟进行开发和测试,再把改进后的能力带回物理环境。
设想这个过程如何运作:
第一步:采集真实环境。
机器人或其他受支持的设备收集周围环境的信息。
第二步:在模拟中重建环境。
采集到的信息变成数字表示,开发者可以用它进行实验。
第三步:引入不同条件。
开发者可以探索不同的物体位置、布局和环境条件。
第四步:收集人类引导的演示。
操作员控制机器人系统,演示特定任务应如何完成。
第五步:评估结果。
回看录制的表现,识别错误,判断任务是否成功完成。
第六步:从纠正中学习。
当机器人策略犯错时,专家引导的纠正可以提供额外的训练样本。
一种相关的研究技术是 DAgger,即数据集聚合的缩写。
DAgger 是一种模仿学习方法,它针对机器人当前策略遇到的情况收集专家引导的纠正,再把这些样本与现有训练数据结合起来。
简单来说,系统不仅能从最初的演示中学习,也能从尝试任务时遇到的错误中学习。
第七步:回到物理环境。
改进后的系统再次接受测试,判断其表现是否变得更可靠。
这就是连续学习过程背后的更大构想。
值得做一点区分:Real2Sim2Real 是一种开发方法,并不证明集成工作流的每个阶段都已经投入运行。Inverted Lambda 的各个组件及其集成仍然需要根据实际展示的结果来评判。9 月 30 日的更新明确描述了闭合这个循环:在重建房间里训练的策略回到它们来源的真实机器人上。
6. 我认为 Inverted Lambda 应该优先做什么
我认为,长期机会不止于收集机器人演示。
Inverted Lambda 可以努力成为验证和 Real2Sim 层,把任何现有的机器人部署——工厂、实验室、厨房或家庭——变成持续、可复用、经过评分的训练数据来源,分布式的操作员和贡献者则构成这个流程的经济支柱。
但有三点尤其重要。
第一,数据质量和信任。
一个有用的机器人演示应该包含足够的信息来解释发生了什么。
这包括环境、机器人配置、观察、动作和任务结果。
还应该有清晰的方式识别不完整、不准确或低质量的提交。
平台应该奖励有用的贡献,而不只是提交录像的数量。在分布式网络中,这意味着可验证的操作员活动、对评估分数的共识,以及偏向高质量轨迹而非数量的激励。
第二,可复用的体验。
机器人行业包含不同的机器、硬件配置和研究环境。
Open X-Embodiment 说明了为什么值得探索跨兼容机器人系统组合体验。
Inverted Lambda 可以通过标准化数据格式和互操作性来强化这个方向。
目标应该是让收集到的体验在最初创建它的环境之外也有用。
第三,持续改进。
最大的机会在于把环境采集、遥操作、评估和纠正演示连接起来。
机器人不仅应该能访问成功任务的示例。
它的开发过程还应该考虑失败、困难情况和意外的环境变化。
这在人类、模拟和物理机器人之间创造了更有用的反馈过程。
如果这些部分咬合在一起,操作员网络本身就变成了基础设施:采集环境、执行遥操作、给结果打分的人,根据他们贡献的可验证价值获得回报,而不是通过集中式的数据采集合同。
7. 仍然需要答案的问题
愿景很有意思,但有些挑战不能被忽视。
Physical Agents SDK 能以多高的精度重建真实环境?
开发者能信任所收集轨迹的质量和一致性吗?
当评分者分散在不同地方时,评估系统如何区分真正的任务完成和不完整的尝试?
从一个机器人系统收集的体验能被另一个系统复用吗?
当手机、平板或机器人传感器被用于 Real2Sim 采集时,平台将如何保护在家庭、办公室和工作场所内采集的私人信息?
也许最重要的是,模拟中改进的表现能否转化为物理机器人上可测量的提升?
这些不是次要的技术细节。
它们是决定一个机器人基础设施平台是否真正有用的问题。
我尤其希望看到通过以下方面取得进展的可衡量证据:
模拟保真度与真实世界的对齐。
经过验证的高质量机器人轨迹。
一致且可复现的评估。
在变化条件下改善的任务完成率。
兼容机器人环境之间的成功迁移。
这些测量比单纯的轨迹数量更能有力地说明平台的价值。
8. 更大的图景
Physical AI 正在进入一个阶段:造出机器人只是挑战的一部分。
行业还需要更好的方式来教机器人、表示它们的环境、收集有意义的体验并评估它们的表现。
DROID 证明了多样化真实世界演示的价值。
Open X-Embodiment 展示了跨不同机器人系统学习的潜力。
LIBERO-MAX 提醒我们,当任务进行中条件变化时,机器人仍然会吃力。
这些项目揭示了为什么机器人智能背后的基础设施值得和模型本身一样多的关注。
Inverted Lambda 的机会在于通过环境采集、人类引导的遥操作和表现评估,把其中一些重要部分连接起来,同时让提供这些部分的人——操作员、环境贡献者和评估者——成为 Physical AI 中一个能运转的经济层的一部分。
我的看法是,Physical AI 的下一阶段不会由机器人在受控条件下能完成多少演示来决定。
它将取决于机器人能多可靠地从经验中学习、适应不熟悉的情况并完成真实任务。
更好的机器人需要的不仅仅是智能。它们需要更好的从物理世界学习的方式。
这才是值得建设的基础设施。