正在发生
现身看见具身智能正在发生
TECHNOLOGY · 技术
具身智能算法

C2Dex:从单目视频实现接触一致的灵巧操作重建与重定向

新框架C2Dex利用单目视频生成灵巧机器人操作示范,提升接触稳定性与物理合理性。

文 / 现身编辑部来源 / arXiv1 分钟读完技术 · XIANSHEN

AI 编撰 · 内容基于所列来源,重要信息请以原文为准

现身编辑封面 · 几何图形由站内算法生成 · article-1252

灵巧机器人操作所需的高质量示范数据难以获取,而单目人类视频提供了可扩展的多样化操作行为来源。然而,将这些示范迁移至灵巧机器人仍面临挑战:单目手物交互重建常产生时间上不稳定、物理上不合理的接触,传统重定向方法也难以在不同手部构型间保留任务相关接触与局部交互几何。为此,研究者提出C2Dex框架,其核心是共享交互表示:在规范物体空间中聚合含噪的逐帧观测,获得稳定的物体侧接触。这些稳定接触兼具双重作用,既作为轨迹级约束以引导重建过程,又作为灵巧手Dexterous Hand安装在机械臂末端、可以完成多指抓握和精细操作的机器人手。◆ 小白科普 · 现身的显式迁移目标,其中拉普拉斯交互优化用于保留跨构型的局部手物几何,残差强化学习一种 AI 训练方法:让机器人在亿万次「试错」中自己摸索,做对了就给奖励。机器人走稳路、跑酷空翻,大多是这么练出来的。◆ 小白科普 · 现身则用于在仿真在电脑里搭建虚拟世界来测试、训练机器人。成本低、速度快,但和真实世界总有差距。◆ 小白科普 · 现身中细化轨迹。

在DexYCB与TACO基准上的实验显示,C2Dex的端到端指「从眼睛到手」由一个 AI 模型直接完成的技术路线:输入画面和指令,直接输出动作,中间不再由工程师人工拆分步骤。◆ 小白科普 · 现身轨迹成功率分别达57.78%与26.67%,显著优于最强基线(17.78%与10.00%)。真实机器人回放实验进一步验证了其在多种接触密集操作任务中的物理可行性。