开源llama.cpp Releases·原文 2026年10月21日

llama.cpp b11765移除Kolibri-1路由器中冗余的精度覆盖

llama.cpp发布b11765版本,合并PR #30865:Kolibri-1路由器矩阵乘法的两处ggml_prec_set_* 精度覆盖被删除,原因是该矩阵乘法使用默认精度即可工作。

AI解读:llama.cpp发布b11765版本,其中包含PR #30865,主题为“drop the redundant precision overrides in the Kolibri-1 router”。

该改动是 #30673 评审意见的后续:路由器matmul使用默认精度即可工作,因此两处ggml_prec_set_* 调用被删除。

提交信息注明该改动的协助来源为pi:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF,运行环境标注为MacBook、M5 Max、128GB;代码合入由Sigbjørn Skjæret参与。

这次只涉及Kolibri-1路由器的精度设置,不改动其余模型路径;从提交说明看,它属于精度设置清理,未给出性能或输出效果的量化数据。

b11765同步提供macOS/iOS、Linux(含CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等)、Android、Windows、openEuler及UI的预编译包。

openEuler构件在本次发布中标记为DISABLED;macOS Apple Silicon的KleidiAI版本同样处于禁用状态。

llama.cpp发布b11765版本,合并PR #30865,标题为“model: drop the redundant precision overrides in the Kolibri-1 router”。根据提交说明,这是对 #30673 评审意见的后续处理:Kolibri-1路由器的矩阵乘法在默认精度下即可工作,因此两处ggml_prec_set_* 精度覆盖调用被删除。

改动内容与依据

提交信息写明,删除的是Kolibri-1路由器中两处ggml_prec_set_* 调用,理由是路由器matmul使用默认精度即可运行。改动同时修正了一处注释,作者署名中包含Sigbjørn Skjæret的协作。

提交信息注明该改动由pi:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF协助,环境标注为MacBook、M5 Max、128GB。该说明属于提交者自述,未附带精度变化前后的对比数据或基准测试结果。

  • PR编号:#30865
  • 前序评审:#30673
  • 删除对象:两处ggml_prec_set_* 精度覆盖
  • 适用范围:Kolibri-1路由器

发布构件范围

b11765发布页列出了多平台预编译包,覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x,含Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)以及UI包。

  • macOS Apple Silicon(arm64,KleidiAI启用版)标记为DISABLED
  • openEuler的x86/aarch64构件(310p、910b ACL Graph)均标记为DISABLED
  • CUDA 12与CUDA 13的运行时库分别单独提供下载

信息来源

llama.cpp Releases原始来源