中关村在线

热点资讯

融合7万小时具身数据,蚂蚁灵波开源具身视频基础模型LingBot-Video

7月9日,蚂蚁灵波开源LingBot-Video,这是基于Mixture-of-Experts(MoE)架构、面向具身智能的开源视频生成基础模型。该模型围绕机器人和具身智能的核心需求重新设计视频预训练范式,在推理效率、物理合理性、动作理解和任务完成度等方面取得系统性提升,为视频基础模型从数字内容创作走向具身智能提供了新的开源底座。

在北京大学联合字节跳动发布的基准RBench上,LingBot-Video的总分是0.620,超越了Wan2.6(0.607)、Seedance1.5 Pro(0.584)、Cosmos3Super(0.581)。RBench作为面向机器人操作视频的综合评测基准,重点考察模型能否生成符合真实物理规律的机器人行为。这一结果表明,LingBot-Video在生成机器人相关视频时,更能保持动作过程的合理性和任务执行的完整性。

(图说:LingBot-Video在RBench上性能最优)

为进一步验证LingBot-Video对物理世界变化的建模能力,蚂蚁灵波在内部benchmark中从通用质量和具身领域两个维度进行评估。结果显示,对比NVIDIACosmos 3、Wan2.2 A14B、LongCat-Video、HunyuanVideo 1.5、LTX-2.3等五个开源模型,LingBot-Video在具身领域表现优于主要基线模型。

(图说:综合评测显示,LingBot-Video在具身相关场景中展现出更强的物理理解和动作一致性)

过去几年,视频生成模型在画质、流畅度和创意表达上快速进步,但对于具身智能来说,一个看起来逼真、动作流畅的视频,却无法反映真实的物理规律,难以支撑机器人连续预测、规划和执行任务。与此同时,具身智能还要求模型具备更高推理效率,以适应实时交互和控制闭环。

这也让视频生成开始出现两种不同的演进方向:一条通向影院,服务于内容创作;另一条通向机器人,服务于物理世界的理解、预测与交互。LingBot-Video正是蚂蚁灵波面向具身智能开辟视频生成新路线的重要探索。

LingBot-Video从架构、数据和训练三方面进行了系统创新。

在架构上,LingBot-Video采用DiT+ MoE 设计,以MoE替代传统Dense架构,在扩大模型容量的同时控制单次推理成本。其30B总参数模型在生成时仅激活约3B参数,相比同等参数规模Dense架构拥有约3倍推理效率。这一设计使模型既能获得大规模参数带来的视觉表达能力,又更适合具身智能对高效推理的要求。

在数据上,LingBot-Video构建了数据画像引擎,在海量互联网视频的基础上进一步引入VLA、VLN、Ego等机器人相关数据,覆盖灵巧操作、机器人移动和第一视角交互等场景,总规模达7万小时的具身数据。这些数据帮助模型学习动作与环境变化之间的关系,而不只是学习视频的表面纹理和视觉风格。

在训练上,LingBot-Video引入多维强化学习奖励系统。除美学、prompt跟随和运动一致性等常规指标外,模型进一步围绕物理合理性和任务完成度进行对齐,使生成结果更符合真实世界规律,也更贴近机器人在真实世界完成任务的需求。

据介绍,LingBot-Video可用于机器人动作预测、仿真数据生成、动作条件建模、世界模型研究等方向。目前,LingBot-Video已正式开源。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具