开源llama.cpp Releases·原文 2026年10月28日

llama.cpp b11951修Qwen3-Coder对话解析:在模板分隔符前截断推理与正文

llama.cpp发布b11951版本,聊天解析逻辑针对Qwen3-Coder调整:解析出的推理内容与正文在模板分隔符之前停止,并去除尾部空白;相关会话测试中的Qwen解析用例被移除。

llama.cpp发布b11951版本,提交说明写明的变更是chat模块处理Qwen3-Coder的方式:解析出的推理内容和正文在模板分隔符之前停止。

同一提交还去除了解析结果的尾部空白,并处理生成结束前末尾未完整匹配的前缀;聊天会话测试中原有的Qwen解析器用例被删除。

Qwen3-Coder解析在分隔符前截断

b11951的提交标题为“chat : stop qwen3-coder reasoning and content before template separators (#30557)”。提交说明列出四项动作:去除解析出的推理内容和正文的尾部空白;让Qwen3-Coder的推理与正文在模板分隔符前停止;从聊天会话测试中移除Qwen解析器用例;在生成结束时处理尚未完整匹配的部分前缀。

提交说明将部分条目标注为“Assisted-by: Claude”,并列出共同作者Zeshawn Zahid与Alde Rojas。发行说明没有说明这些解析改动对具体输出的影响范围,也没有提供测试结果或评测数据。

预编译包按平台与后端划分

该版本提供各平台的预编译包,包括macOS的Apple Silicon arm64与Intel x64、iOS XCFramework;Linux的Ubuntu x64/arm64/s390x CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL等后端变体;Android arm64含骁龙CPU、Adreno GPU、Hexagon NPU版本;Windows含CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm及arm64 OpenCL Adreno包。

发行说明将macOS Apple Silicon的KleidiAI版本标注为DISABLED,并链接到PR #23780;openEuler的四个构建同样标注为DISABLED,链接到PR #23705。其余平台条目未附状态说明。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64、arm64、s390x的CPU包,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL包
  • Android:arm64 CPU与骁龙CPU/GPU/NPU包
  • Windows:x64与arm64的CPU包,以及CUDA、Vulkan、OpenVINO、SYCL、ROCm等变体
  • openEuler:x86/aarch64的 310p与 910b构建,均标注DISABLED

信息来源

llama.cpp Releases原始来源