llama.cpp b11740发布:OpenCL后端新增i32 GET_ROWS与i32/f32拷贝支持
llama.cpp发布b11740构建版本,唯一列出的代码变更是OpenCL后端支持i32类型的GET_ROWS以及i32、f32的拷贝转换(PR #30756)。
AI解读:该版本同时提供macOS/iOS、Linux、Windows、Android的预编译包,涵盖CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL等后端,并附snapshotdragon(CPU/Adreno GPU/Hexagon NPU)与OpenCL Adreno的Windows arm64包。
发布说明标注部分平台为DISABLED:启用KleidiAI的macOS Apple Silicon版本与openEuler相关构建被禁用,分别指向PR #23780 和PR #23705。
这批变更直接影响的是通过OpenCL后端运行推理的用户,尤其是使用Adreno GPU的设备;发布说明未给出性能数据或适用模型范围。
llama.cpp发布b11740构建版本。发布说明列出的代码变更为OpenCL后端支持i32类型的GET_ROWS,并支持i32与f32的拷贝转换,对应PR #30756。
b11740的代码变更
发布说明将该版本变更记为“opencl: add get_rows for i32, cpy for i32 and f32 (#30756)”,条目中分列两点:OpenCL支持i32 GET_ROWS;OpenCL支持i32和f32的拷贝转换。
说明未提及这些操作此前在OpenCL后端的行为,也未给出由此带来的性能或精度变化数据。
预编译包覆盖范围
b11740按平台提供预编译包。macOS提供Apple Silicon arm64与Intel x64版本,以及iOS XCFramework;Linux侧覆盖Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等变体,另有面向Snapdragon的Linux arm64包(CPU、Adreno GPU、Hexagon NPU)。
Android提供arm64 CPU包与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包;Windows提供x64/arm64 CPU包、arm64 OpenCL Adreno包,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等变体。此外还有UI包。
- Windows arm64另有OpenCL Adreno专用包,与本次OpenCL后端变更同属该后端范围。
- Linux与Android的Snapdragon包附有对应安装指南链接。
被禁用的构建
发布说明将macOS Apple Silicon(arm64,KleidiAI enabled)标为DISABLED,链接指向PR #23780;openEuler的x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)四个条目同样标为DISABLED,链接指向PR #23705。