开源Hugging Face Blog·原文 2026年10月15日

Apertus 1.5发布:8B与 70B模型新增图像音频理解,上下文扩至 262k

瑞士AI计划将Apertus 1.5的 8B和 70B权重于 2026 年 7 月 24 日发布到Hugging Face,采用Apache 2.0许可;模型新增原生多模态理解、可选思考模式和 26.2 万token上下文窗口。

瑞士AI计划(Swiss AI Initiative)在Hugging Face发布Apertus 1.5,将 8B和 70B模型权重于 2026 年 7 月 24 日公开,许可为Apache 2.0。该版本在Apertus 1.0基础上继续预训练,新增图像与音频理解、可选思考模式,并将上下文窗口扩展到 262,144 token。

多模态通过分词器实现,模型只生成文本

Apertus 1.5没有使用单独的视觉编码器,而是以早期融合方式将图像和音频转为离散token,与文本token放入同一序列。图像使用Emu3.5分词器,一张 512×512 图像转为 1,024 个token;音频使用WavTokenizer,每秒 40 个token。

官方称该方式只扩展词表,架构不变,训练速度与纯文本模型相当。模型能理解图像和音频,但输出仅为文本。音频处理仍处于实验阶段。

训练数据与后训练流程公开

预训练从Apertus 1.0检查点继续,分为四个阶段:无配对数据、配对数据、冷却阶段和长上下文扩展,窗口从 8k逐步扩大到 262k。整体训练中超过一半token为纯文本,以保持原有语言能力。文本数据包含FineWeb2-HQ+、FinePDFs和Nemotron-CC等来源;所有新数据满足公开可用、宽松许可,并追溯尊重robots.txt退出。

后训练包含SFT、长上下文SFT、RL、DPO和章程对齐(SDPO)五个阶段。SFT使用 370 万条文本样本及图像和语音数据;推理轨迹仅添加到模型无法直接解决的提示上;工具使用数据限于执行验证过的轨迹。团队在Hugging Face发布了文本SFT混合数据。

评估:部分任务接近或持平开源权重模型

官方评估显示,Apertus 1.5在编码和指令遵循上明显改进,8B版本在IF和多语言任务上超过同规模开源权重模型,思考模式进一步改善AIME等推理密集型基准。

多模态性能接近Gemma 4 12B及其他当前开源权重模型,在空间理解以及文档/图表理解上具有竞争力。在瑞士法律任务上,官方称其与领先开源权重模型持平;在Last Translation Benchmark上,8B版本的机器翻译能力与GPT-OSS-20B相当,超过Claude Haiku 4.5和Google Translate。

团队同时说明,该版本仍落后于前沿开源权重模型。评估结果通过EvalEval联盟的Every Eval Ever模式发布,包含运行者、访问方式、生成设置和指标解释等信息。

可用性:应用集成与API提供商

Proton Lumo和Infomaniak Euria已集成Apertus 1.5。Swisscom、Infomaniak、Phoeniqs等提供商宣布为开发者提供Apertus 1.5 API。模型卡和Quickstart指南提供了运行说明。

团队在苏黎世AI+X峰会上宣布了Apertus 2.0路线图:稀疏/MoE架构、约 600B总参数、更长训练计划,优先方向为智能体、数学和编码。

信息来源

Hugging Face Blog原始来源