开源llama.cpp Releases·原文 2026年10月17日

llama.cpp b11706修复SYCL后端Q4_0/Q8_0权重重排后的提示处理回退

该版本由llama.cpp发布,提交标题写明针对SYCL后端在Q4_0/Q8_0权重重排后出现的提示处理(prompt-processing)性能回退进行修复(#30374);发布页同时列出各平台预编译包。

llama.cpp发布b11706版本,提交标题为“sycl: fix prompt-processing regression after Q4_0/Q8_0 weight reorder (#30374)”,即在SYCL后端修复Q4_0/Q8_0权重重排后出现的提示处理回退。

修复内容与范围

发布页只给出提交标题这一条变更说明:修复对象是SYCL后端;触发条件被描述为Q4_0/Q8_0权重重排之后;受影响的行为是prompt-processing回退。对应PR编号为 #30374。

发布页没有列出回退的具体表现、性能下降幅度、涉及的Intel GPU型号或驱动版本,也没有给出修复前后的基准数据,因此无法据此判断实际改善程度。

同版本提供的构建

b11706的发布产物覆盖macOS/iOS、Linux、Android、Windows以及UI。其中Linux和Windows均提供SYCL构建(Ubuntu x64 SYCL FP32/FP16、Windows x64 SYCL),与本次修复的后端对应。

  • Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)等。
  • Windows:x64/arm64 CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0。
  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI启用版本标注为DISABLED。
  • Android:arm64 CPU与Snapdragon版本;openEuler相关条目标注为DISABLED。

信息来源

llama.cpp Releases原始来源