llama.cpp b12087为mtmd增加Nemotron 3.5 Transcribe支持
该版本由项目自动发布;提交记录列出转写模型支持、词表修复、非BF16检查点拒绝以及mmproj形状校验等改动,未给出性能数据。
llama.cpp发布b12087版本,主要改动是在mtmd中增加对Nemotron 3.5 Transcribe的支持,对应合并请求 #31471。
与转写支持一同进入该版本的还有多项配套改动,发布页提交记录逐条标注Assisted-by: Claude。发布说明由github-actions[bot] 发布。
本次版本包含的具体改动
提交记录显示,除了mtmd增加Nemotron 3.5 Transcribe支持,还包括:修复Nemotron-H目标下草稿模型的词表;拒绝非BF16的Transcribe检查点;将说话人FIFO预测改为局部;在encode_windows中归一化mel;映射生成的说话人kernel;校验Nemotron Transcribe mmproj形状。
这些条目均为代码提交层面的描述,来源没有进一步解释各项修改的动机或适用范围。
- mtmd:增加Nemotron 3.5 Transcribe支持(#31471)
- convert:修复Nemotron-H目标下草稿模型词表
- convert:拒绝非BF16的Transcribe检查点
- mtmd:说话人FIFO预测改为局部
- mtmd:在encode_windows中归一化mel
- convert:映射生成的说话人kernel
- mtmd:校验Nemotron Transcribe mmproj形状
预编译包与平台限制
发布页列出macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework、多个Ubuntu变体(CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL)、Linux arm64 Snapdragon、Android arm64、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm)以及UI包。
其中macOS Apple Silicon的KleidiAI版和openEuler的若干构建标注为DISABLED,并链接到相应合并请求。
来源未给出的信息
发布说明未提供Nemotron 3.5 Transcribe在llama.cpp上的准确率、延迟或资源占用数据,也未列出已测试的硬件后端。因此本次更新可确认的范围是代码与构建层面的支持,而非效果层面的结论。