llama.cpp b11765移除Kolibri-1路由器中冗余的精度覆盖
llama.cpp发布b11765版本,合并PR #30865:Kolibri-1路由器矩阵乘法的两处ggml_prec_set_* 精度覆盖被删除,原因是该矩阵乘法使用默认精度即可工作。
AI解读:llama.cpp发布b11765版本,其中包含PR #30865,主题为“drop the redundant precision overrides in the Kolibri-1 router”。
该改动是 #30673 评审意见的后续:路由器matmul使用默认精度即可工作,因此两处ggml_prec_set_* 调用被删除。
提交信息注明该改动的协助来源为pi:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF,运行环境标注为MacBook、M5 Max、128GB;代码合入由Sigbjørn Skjæret参与。
这次只涉及Kolibri-1路由器的精度设置,不改动其余模型路径;从提交说明看,它属于精度设置清理,未给出性能或输出效果的量化数据。
b11765同步提供macOS/iOS、Linux(含CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等)、Android、Windows、openEuler及UI的预编译包。
openEuler构件在本次发布中标记为DISABLED;macOS Apple Silicon的KleidiAI版本同样处于禁用状态。
llama.cpp发布b11765版本,合并PR #30865,标题为“model: drop the redundant precision overrides in the Kolibri-1 router”。根据提交说明,这是对 #30673 评审意见的后续处理:Kolibri-1路由器的矩阵乘法在默认精度下即可工作,因此两处ggml_prec_set_* 精度覆盖调用被删除。
改动内容与依据
提交信息写明,删除的是Kolibri-1路由器中两处ggml_prec_set_* 调用,理由是路由器matmul使用默认精度即可运行。改动同时修正了一处注释,作者署名中包含Sigbjørn Skjæret的协作。
提交信息注明该改动由pi:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF协助,环境标注为MacBook、M5 Max、128GB。该说明属于提交者自述,未附带精度变化前后的对比数据或基准测试结果。
- PR编号:#30865
- 前序评审:#30673
- 删除对象:两处ggml_prec_set_* 精度覆盖
- 适用范围:Kolibri-1路由器
发布构件范围
b11765发布页列出了多平台预编译包,覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x,含Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)以及UI包。
- macOS Apple Silicon(arm64,KleidiAI启用版)标记为DISABLED
- openEuler的x86/aarch64构件(310p、910b ACL Graph)均标记为DISABLED
- CUDA 12与CUDA 13的运行时库分别单独提供下载