llama.cpp发布b12262:CUDA后端在图复用阶段跳过兼容性检查
该版本唯一列出的代码改动为CUDA后端合并PR #32004;发布页同时提供macOS、iOS、Linux、Android、Windows多平台预编译包,其中macOS的KleidiAI版本与openEuler构建标记为DISABLED。
llama.cpp发布b12262,发布页列出的代码改动只有一项:CUDA后端在计算图被复用时跳过图兼容性检查,对应PR #32004。该条目由发布机器人写入更新说明,未附性能数据或测试结论。
b12262中的CUDA改动
发布说明的标题为“CUDA: skip graph compat check when graph is being reused (#32004)”。按字面含义,此次调整发生在CUDA后端判断是否复用已有计算图的路径上:当图处于复用状态时,不再执行兼容性检查。
来源未说明该检查此前在何种条件下触发、跳过检查后如何保证正确性,也未给出对比测试。因此目前能确认的范围限于“这是一处CUDA后端的已合入改动”,不能据此推断速度提升幅度或对其他后端的影响。
发布包覆盖的平台
b12262提供预编译二进制与库,按发布页分组包括macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework、Ubuntu x64与arm64的CPU包、Ubuntu 24.04与 26.04 的s390x包及zDNN版本、Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32与FP16等Linux构建。
Windows侧包括x64与arm64的CPU包、arm64的OpenCL Adreno包、CUDA 12.4与CUDA 13.5(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL与ROCm 10.0。Android提供arm64通用包以及含CPU、Adreno GPU、Hexagon NPU的Snapdragon包,Linux arm64也有对应的Snapdragon包,并各附setup guide链接。发布页另附UI包。
- macOS Apple Silicon的KleidiAI启用版在本次发布中标注为DISABLED,链接指向PR #23780。
- openEuler构建同样标注DISABLED,链接指向PR #23705;发布页仍列出openEuler x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)四个条目名,但未提供下载链接。