开源llama.cpp Releases·原文 2026年11月6日

llama.cpp b12140为YaRN增加truncate=false支持,用于gpt-oss等模型

该项目发布说明称,此前YaRN校正区间的边界无法不取整,gpt-oss和部分PLaMo-3模型使用truncate=false;本次改动涉及GGML算子与CPU后端,并补充了CUDA后端支持和测试。默认truncate=true时,原有调用行为不变。

AI解读:llama.cpp发布b12140版本,发布说明列出的核心变更是GGML支持YaRN的truncate=false设置(PR #30206)。

发布说明解释,YaRN通过计算校正区间来切换频率插值方法,此前不支持将区间边界保持为非整数(truncate=false);使用该设置的模型包括gpt-oss和部分PLaMo-3模型。

为正确处理这些模型,改动修改了GGML算子与CPU后端的计算逻辑,使边界不做取整;同一变更还增加了CUDA后端支持与测试,并把RoPE辅助函数移到内部头文件。

默认行为仍为truncate=true,发布说明称未显式配置的既有调用将维持原有行为。

此次发布同时提供macOS、Linux、Windows、Android等多平台预编译包,覆盖CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO等后端。

llama.cpp发布b12140版本。发布说明将主要变更记为GGML支持YaRN的truncate=false(PR #30206)。

truncate=false解决什么

发布说明称,YaRN会计算校正区间,用于切换频率插值方法;此前不支持让这些区间的边界不取整,即truncate=false。

说明列出使用truncate=false的模型包括gpt-oss和部分PLaMo-3模型。为正确支持这些模型,改动修改了GGML算子和CPU后端,使相关计算不做取整。

  • 新增支持对象:YaRN的truncate=false设置。
  • 发布说明点名的模型:gpt-oss、部分PLaMo-3模型。
  • 改动范围:GGML算子与CPU后端;另增加CUDA后端支持和测试。
  • 默认值:truncate=true,未显式配置的调用维持原有行为。

发布包覆盖范围

b12140发布页同时列出多平台构建包,包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(x64、arm64、s390x)、Android arm64、Windows x64与arm64,以及UI包。后端覆盖CPU、CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO等。发布说明未给出这些包与truncate=false相关的性能或效果数据。

信息来源

llama.cpp Releases原始来源