开源Hugging Face Blog·原文 2026年9月28日本站收录 2026年10月5日

Hugging Face在Hub上线RL Environments筛选器,用数据集仓库托管强化学习环境

Hugging Face称,RL环境现可作为带rl-environment标签的数据集仓库出现在Hub的新筛选器中,无需新建仓库类型、注册表或注册;Harbor、Verifiers、OpenEnv、NeMo Gym四个框架已注册为数据集库标签。

Hugging Face在博客中宣布,Hub新增RL Environments筛选器,地址为huggingface.co/datasets?other=rl-environment,凡是带rl-environment标签的数据集都会出现在该筛选器中,不区分框架。

Hugging Face称,一个RL环境在Hub上就是一个数据集仓库;环境给智能体任务、用观测回应对其动作并给结果打分,奖励可用于评估或作为训练学习信号。该版本聚焦任务的集合(tasksets),运行时代码和验证器代码可由仓库或框架提供。

该版本没有新增仓库类型、注册表或注册流程。集成方式是在数据集卡YAML头部保留rl-environment标签,并列出能加载其文件的每个框架标签;一个数据集可携带多个框架标签。

Harbor、Verifiers、OpenEnv、NeMo Gym四个环境框架被注册为数据集库标签。每个框架标签会在数据集页面显示该框架的图标,并在“Use this dataset”中生成对应命令片段。Hugging Face表示,添加标签不会转换仓库文件,所列框架必须支持这些文件。

已注册的框架标签与命令片段

Hugging Face列出了四个已注册为数据集库的环境框架标签:harbor对应Harbor,verifiers对应Verifiers,openenv对应OpenEnv,nemo-gym对应NeMo Gym。

博客称,标签描述兼容性、生成加载命令;添加标签不会启动任务或沙箱。任务数据存放在Hub,运行配置和验证器代码可放在仓库,也可由框架提供;框架负责在本地或受支持的云后端执行。

Hugging Face Jobs可运行云工作负载,Hugging Face Sandboxes构建在Jobs之上,提供交互式命令执行。

  • harbor — Harbor,已注册为数据集库标签
  • verifiers — Verifiers,已注册为数据集库标签
  • openenv — OpenEnv,已注册为数据集库标签
  • nemo-gym — NeMo Gym,已注册为数据集库标签

三个框架的运行示例与限制

Hugging Face博客给出Harbor、Verifiers、OpenEnv三个框架的命令示例,用于运行Terminal-Bench 2.1的同一组任务目录。Harbor示例使用oracle智能体运行参考解,由验证器打分,不调用模型;Verifiers示例在同一任务上运行模型;OpenEnv示例运行智能体并输出验证器奖励与轨迹。

OpenEnv示例中,默认连接使用临时Gradio隧道,让沙箱智能体访问OpenEnv的模型代理;读取结果时若reward为None,表示未产生验证器奖励,应先检查error再判断模型是否失败。

NeMo Gym支持评估和RL训练,环境收集轨迹并计算奖励,训练框架更新模型权重。Structured Outputs数据集的验证器奖励对JSON schema的遵循,Hugging Face称它不检查生成内容是否事实正确。

Verifiers示例中,repo使用完整Hugging Face Git URL,dataset是registry.json中的名称与版本,二者不能互相替代。

已申请的标签与后续计划

Hugging Face称已向一些现有环境提交PR打标签,维护者合并后这些环境会出现在筛选器中。Harbor方面包括BeyondSWE、Terminal-Lego、Harbor-Mix、NatureBench;Verifiers方面包括Reverse-Text-RL、Multi-SWE-RL-Verified(4,703 行中的 2,232 行通过gold-patch验证)、R2E-Gym-Subset-Verified、Scale-SWE-Verified(20,181 个Python任务中的 17,202 个);NeMo Gym方面包括Workplace Assistant(5 个数据库、26 个工具、690 个业务任务)、Structured Outputs、CFBench、SysBench。

后续计划包括:第一版每个框架生成一个默认片段,下一步支持按配置生成片段,之后考虑对严格目录结构的框架做结构性检测,以及自动框架标签。Hugging Face称OpenEnv已在上传时自动打标签,并建议Harbor、Verifiers、NeMo Gym等框架在推送路径中加入标签。

信息来源

Hugging Face Blog原始来源