llama.cpp发布b12270构建,为MUL_MAT src1增加精度测试与门控
llama.cpp在b12270版本的变更列表中记录了一项ggml改动(#31896):为MUL_MAT的src1增加精度测试与门控;该版本同时发布覆盖macOS、iOS、Linux、Android、Windows等多平台的预编译包,其中部分构建被标注为禁用状态。
AI解读:这次发布中可确认的核心代码改动只有一条:ggml为MUL_MAT的src1增加精度测试与门控,提交编号为 #31896。发布说明没有给出这项改动对推理结果或性能的具体影响数据。
b12270的构建覆盖面包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu的CPU/Vulkan/CUDA 12/CUDA 13/ROCm/OpenVINO/SYCL版本、Ubuntu s390x(含zDNN)、安卓arm64与骁龙(CPU/Adreno GPU/Hexagon NPU)、Windows的CPU/CUDA/Vulkan/OpenVINO/SYCL/ROCm版本以及UI包。
发布页把两项构建标为DISABLED:macOS Apple Silicon的KleidiAI版本(关联PR #23780)和openEuler全部构建(关联PR #23705)。这说明这些预编译产物在该发布页上不可用,但发布说明没有解释具体原因。
MUL_MAT是ggml的矩阵乘法算子,src1指它的第二个输入张量。按变更标题的字面含义,这是针对该输入精度行为的测试与门控,并非模型功能更新;是否会影响现有模型的输出,发布说明未作说明。
llama.cpp发布b12270构建。发布页列出的代码变更只有一项:ggml增加MUL_MAT src1精度测试与门控(#31896)。
该版本同时提供多平台预编译包,包含macOS、iOS、Linux、Android、Windows以及一个UI包。
b12270的代码变更
发布说明中记录的变更为“ggml : add MUL_MAT src1 precision tests and gating (#31896)”。这条标题表明,改动位于ggml层,对象是MUL_MAT算子的src1输入;内容是增加精度测试并加入门控。
发布说明没有说明门控在什么条件下触发、会影响哪些后端或模型,也没有给出测试结果或性能数据。
预编译包覆盖的平台
发布页按平台列出下载项。macOS/iOS包括Apple Silicon(arm64)、Intel(x64)和iOS XCFramework。
Linux包括Ubuntu x64与arm64的CPU版本、Ubuntu 24.04与 26.04 的s390x(含zDNN)、Vulkan、CUDA 12.8、CUDA 13.5(x64与arm64)、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及面向骁龙的Linux arm64版本(CPU、Adreno GPU、Hexagon NPU)。
Android提供arm64 CPU包和骁龙版本(CPU、Adreno GPU、Hexagon NPU)。Windows提供x64与arm64的CPU包、arm64 OpenCL Adreno、CUDA 12.4与CUDA 13.5(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL与ROCm 10.0。此外还有UI包。
- CUDA构建同时提供对应的cudart库压缩包。
- 骁龙版本在发布页附有Linux与Android的设置指南链接。
发布页标注为禁用的构建
发布页把两项标为DISABLED。一项是macOS Apple Silicon(arm64,启用KleidiAI)的构建,链接指向PR #23780。
另一项是openEuler的全部构建,包括x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph),链接指向PR #23705。
可确认的范围
以上信息均来自llama.cpp的b12270发布页,属于项目方自述。发布说明没有给出该版本与前一版本在精度、速度或兼容性上的对比数据。
因此,这次发布能确认的事实是:一项ggml精度测试与门控改动进入版本,以及一组平台构建的可用与禁用状态;这些构建上的实际运行效果,发布页未作说明。