llama.cpp发布b11904:SYCL后端将普通MMVQ启动三元组改为模板化
该版本发布说明列出的唯一代码变更为sycl后端对普通MMVQ启动三元组做模板化(#31013),同时按平台提供macOS、Linux、Windows、Android等预编译包。
llama.cpp发布b11904版本,发布说明记录的代码改动为sycl后端“将普通MMVQ启动三元组模板化”,对应PR #31013。
发布页同时列出各平台预编译包下载,包括macOS、iOS、Linux、Android、Windows及UI包;其中macOS Apple Silicon的KleidiAI启用版本和openEuler各变体标注为DISABLED。
b11904的代码改动与PR编号
发布说明中唯一的代码变更描述是“sycl: template the plain MMVQ launch triples (#31013)”,即把SYCL后端普通MMVQ的启动三元组改为模板形式,PR编号为 #31013。
发布说明没有附上该改动的基准测试、吞吐量对比或受影响设备的清单,因此无法从该页面判断它对推理速度或内存占用的实际影响。
随版本提供的预编译包
macOS与iOS方面,提供macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;Apple Silicon的KleidiAI启用版本标注为DISABLED。
Linux方面,提供Ubuntu x64、arm64、s390x的CPU包,以及Ubuntu x64/arm64的Vulkan包、CUDA 12.8与CUDA 13.4的x64包、CUDA 13.4的arm64包、ROCm 10.0 x64包、OpenVINO 2026.4.1 x64包和SYCL FP32/FP16 x64包。
Android提供arm64 CPU包,以及标注支持Snapdragon CPU、Adreno GPU、Hexagon NPU的arm64包;Linux arm64也有对应的Snapdragon包,两者各自链接setup guide。
Windows提供x64/arm64 CPU包、arm64 OpenCL Adreno包、CUDA 12.4与CUDA 13.4的x64包、CUDA 13.4的arm64包,以及Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0的x64包。
此外提供UI包;openEuler的x86(310p)、x86(910b,ACL Graph)、aarch64(310p)、aarch64(910b,ACL Graph)标注为DISABLED。