llama.cpp b11493为SYCL后端加入分组MoE XMX GEMM
该版本发布说明中唯一列出的代码变更是sycl后端新增分组MoE XMX GEMM(PR #29245,由cwriter共同提交),其余内容为各平台预编译产物的下载链接。
AI解读:发布页未提供该改动带来的性能数据、基准测试结果或适用模型范围,因此无法据此判断加速比例,只能确认功能进入该构建。
同页发布了macOS/iOS、Linux、Android、Windows、openEuler及UI的多平台构建产物,涵盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16等后端。
其中macOS Apple Silicon(启用KleidiAI)与openEuler相关构建均标注为DISABLED。
llama.cpp发布b11493构建,发布说明列出的唯一代码变更为「sycl: add grouped MoE XMX GEMM」(PR #29245),由cwriter共同提交。
本次变更与适用范围
该PR在SYCL后端新增分组MoE XMX GEMM实现。发布页只列出这一条变更标题,未附性能数字、基准或支持的模型清单。
- 变更提交:PR #29245,共同作者cwriter。
- 目标后端:SYCL。
- 功能描述:分组MoE XMX GEMM。
同版本发布的构建产物
发布页同时提供各平台预编译包下载,覆盖CPU与多种加速后端。
- macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework。
- Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16构建;Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)。
- Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)。
- Windows:x64/arm64 CPU,arm64 OpenCL Adreno,CUDA 12.4/13.4(x64与arm64),Vulkan,OpenVINO,SYCL,ROCm 10.0。
- 另有UI打包与对应CUDA运行库下载。
被标注为禁用的条目
发布页将两项构建标记为DISABLED。
- macOS Apple Silicon(arm64,启用KleidiAI):链接指向PR #23780,标注DISABLED。
- openEuler:标注DISABLED,链接指向PR #23705,原计划包含openEuler x86/aarch64的 310p与 910b(ACL Graph)构建。