开源Hugging Face Blog·原文 2026年11月6日

NVIDIA在Hugging Face发布Cosmos 3四个开源权重检查点,覆盖自动驾驶与双臂机器人仿真

四个检查点均为Cosmos 3 Nano的后训练版本,各含 160 亿可训练参数,采用允许商用与非商用的OpenMDW1.1许可;其中Sim-Auto是Transfer-Auto经因果蒸馏得到的流式变体。

NVIDIA在Hugging Face博客中发布Cosmos 3世界模型平台的四个新开源权重检查点,用于交互式世界仿真和多传感器多视角驾驶场景生成。四个模型都是Cosmos 3 Nano的后训练示例,各含 160 亿可训练参数,采用OpenMDW1.1许可,按该许可条款允许商用与非商用。

NVIDIA将这四个检查点定位为互补的环境构建方式:Sim-Bimanual从动作预测视觉后果,Sim-Transfer把物理仿真器的控制转成生成观测。

四个检查点各自做什么

  • Cosmos3-Nano-Transfer-Auto:从驾驶场景生成多传感器数据,覆盖不同天气、光照和时段;生成最多 11 路相机视角(含鱼眼)的同步视频,支持RGB与LiDAR联合生成,用每相机的World Scenario Map指定场景结构与交通运动,文本提示控制外观。
  • Cosmos3-Nano-Sim-Auto:Transfer-Auto的因果蒸馏流式变体,在少量去噪步内生成连续小段的同步相机视频与LiDAR,利用生成历史和更新的驾驶控制支持快速流式、长时交互推演。
  • Cosmos3-Nano-Sim-Transfer:把仿真器的控制与文本提示渲染成逼真RGB视频,供策略消费;物理和真值状态仍由仿真器计算。
  • Cosmos3-Nano-Sim-Bimanual:从场景与双臂机器人动作直接预测下一观测,支持YAM和AgiBot本体,可由策略或人操作摇杆控制;一个控制序列可在视角变化与操作之间切换,混合动作示例使用 59 个控制值,训练时填充到 64。

训练配方与适配路径

NVIDIA给出的后训练配方分四阶段:Stage 0双向适配,从完整记录片段学习领域与控制到视频的关系;Stage 1教师强制,用已有观测和控制预测每个片段,掩掉干净答案与未来目标;Stage 2一致性蒸馏,用冻结教师训练学生模型以四步去噪生成每片段;Stage 3自强制,用学生自己生成的歷史训练,配合冻结教师和辅助评分模型提供分布匹配信号。NVIDIA称最后一步针对误差累积:轻微错判的物体会成为后续帧的上下文。

  • 新传感器配置或驾驶领域:先在Transfer-Auto上用自采数据后训练,再做因果训练与少步蒸馏,得到Sim-Auto;这条路径即Sim-Auto的生成方式。
  • Sim-Transfer与Sim-Bimanual均为按各自环境或本体后训练的检查点,官方建议保留完整训练检查点以便恢复,导出的推理权重不含优化器等训练状态。
  • 官方提示:短程成功运行只验证执行,不代表收敛,质量应在留出片段上评测。

推理条件与已知限制

NVIDIA说明Sim-Bimanual推理需要Linux、NVIDIA GPU、Docker和NVIDIA Container Toolkit;发布的vLLM-Omni配置在一块GB200上测试过,官方明确这不是最低显存规格。流式生成依赖带K/V缓存的时序因果注意力,每步潜在表示对应 4 帧RGB,Transfer每片段预测一步,报告中优化的Bimanual配置预测两步。

  • 闭环交互需要仿真运行时和WSM渲染器根据驾驶输入更新控制,模型本身不提供这一部分。
  • NVIDIA在文中列出仍待解决的问题:需衡量模型在何处能可靠支持策略学习与评测、理解其局限并在不足处改进;来源未给出量化效果数据。

信息来源

Hugging Face Blog原始来源