llama.cpp b11748修复SYCL后端重排量化权重下的get_rows
llama.cpp发布b11748版本,唯一列出的变更是SYCL后端修复:在量化权重经过重排(reordered)时修正get_rows的行为,提交编号 #30430,由Sam共同署名。
AI解读:该修复指向SYCL后端一处具体路径:量化权重被重排后,get_rows的取行结果需要与重排后的权重布局保持一致。发布说明未给出该问题的影响范围、触发条件或性能数据。
发布说明同时列出了各平台预编译包,包括Linux(CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Windows(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm 10.0)、macOS/iOS、Android arm64以及Snapdragon的CPU/Adreno GPU/Hexagon NPU包。
macOS Apple Silicon启用KleidiAI的构建被标注为DISABLED,openEuler相关构建同样标注为DISABLED,其余平台包正常提供下载链接。
llama.cpp发布b11748版本。发布说明中列出的代码变更只有一项:SYCL后端修复重排量化权重上的get_rows实现(#30430),由Sam共同署名。
发布说明没有说明该缺陷的表现、受影响的模型或设备范围,也没有给出修复前后的性能对比数据。
本次代码变更
b11748的发布说明将变更概括为“sycl : fix get_rows on reordered quantized weights (#30430)”。从字面看,修复对象是SYCL后端里get_rows这一取行操作,触发场景是量化权重经过重排之后。
发布说明未进一步描述重排的具体形式、哪些量化类型会走到该路径,以及此前的行为是报错、结果错误还是性能下降。共同作者署名“Sam”,说明中未给出更多提交者信息。
构建产物与平台覆盖
该版本按平台提供预编译包。Linux侧包括Ubuntu x64/arm64 CPU、s390x CPU、Vulkan、CUDA 12.8与CUDA 13.4(含对应cudart库)、ROCm 10.0、OpenVINO 2026.4.1,以及SYCL FP32和SYCL FP16两个x64包。Windows侧包括x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4与CUDA 13.4(含DLL)、Vulkan、OpenVINO 2026.4.1、SYCL和ROCm 10.0。macOS提供Apple Silicon arm64与Intel x64包,另有iOS XCFramework。Android提供arm64 CPU以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)包,Snapdragon的Linux与Android版本均附有设置指南链接。UI单独打包为tar.gz。
- macOS Apple Silicon启用KleidiAI的构建被标注为DISABLED,指向PR #23780。
- openEuler的x86与aarch64(310p、910b ACL Graph)构建同样标注为DISABLED,指向PR #23705。