开源llama.cpp Releases·原文 2026年11月11日

llama.cpp发布b12262:CUDA后端在图复用阶段跳过兼容性检查

该版本唯一列出的代码改动为CUDA后端合并PR #32004;发布页同时提供macOS、iOS、Linux、Android、Windows多平台预编译包,其中macOS的KleidiAI版本与openEuler构建标记为DISABLED。

llama.cpp发布b12262,发布页列出的代码改动只有一项:CUDA后端在计算图被复用时跳过图兼容性检查,对应PR #32004。该条目由发布机器人写入更新说明,未附性能数据或测试结论。

b12262中的CUDA改动

发布说明的标题为“CUDA: skip graph compat check when graph is being reused (#32004)”。按字面含义,此次调整发生在CUDA后端判断是否复用已有计算图的路径上:当图处于复用状态时,不再执行兼容性检查。

来源未说明该检查此前在何种条件下触发、跳过检查后如何保证正确性,也未给出对比测试。因此目前能确认的范围限于“这是一处CUDA后端的已合入改动”,不能据此推断速度提升幅度或对其他后端的影响。

发布包覆盖的平台

b12262提供预编译二进制与库,按发布页分组包括macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework、Ubuntu x64与arm64的CPU包、Ubuntu 24.04与 26.04 的s390x包及zDNN版本、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32与FP16等Linux构建。

Windows侧包括x64与arm64的CPU包、arm64的OpenCL Adreno包、CUDA 12.4与CUDA 13.5(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL与ROCm 10.0。Android提供arm64通用包以及含CPU、Adreno GPU、Hexagon NPU的Snapdragon包,Linux arm64也有对应的Snapdragon包,并各附setup guide链接。发布页另附UI包。

  • macOS Apple Silicon的KleidiAI启用版在本次发布中标注为DISABLED,链接指向PR #23780。
  • openEuler构建同样标注DISABLED,链接指向PR #23705;发布页仍列出openEuler x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)四个条目名,但未提供下载链接。

信息来源

llama.cpp Releases原始来源