llama.cpp b11706修复SYCL后端Q4_0/Q8_0权重重排后的提示处理回退
该版本由llama.cpp发布,提交标题写明针对SYCL后端在Q4_0/Q8_0权重重排后出现的提示处理(prompt-processing)性能回退进行修复(#30374);发布页同时列出各平台预编译包。
llama.cpp发布b11706版本,提交标题为“sycl: fix prompt-processing regression after Q4_0/Q8_0 weight reorder (#30374)”,即在SYCL后端修复Q4_0/Q8_0权重重排后出现的提示处理回退。
修复内容与范围
发布页只给出提交标题这一条变更说明:修复对象是SYCL后端;触发条件被描述为Q4_0/Q8_0权重重排之后;受影响的行为是prompt-processing回退。对应PR编号为 #30374。
发布页没有列出回退的具体表现、性能下降幅度、涉及的Intel GPU型号或驱动版本,也没有给出修复前后的基准数据,因此无法据此判断实际改善程度。
同版本提供的构建
b11706的发布产物覆盖macOS/iOS、Linux、Android、Windows以及UI。其中Linux和Windows均提供SYCL构建(Ubuntu x64 SYCL FP32/FP16、Windows x64 SYCL),与本次修复的后端对应。
- Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)等。
- Windows:x64/arm64 CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0。
- macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI启用版本标注为DISABLED。
- Android:arm64 CPU与Snapdragon版本;openEuler相关条目标注为DISABLED。