开源llama.cpp Releases·原文 2026年10月8日

llama.cpp b11493为SYCL后端加入分组MoE XMX GEMM

该版本发布说明中唯一列出的代码变更是sycl后端新增分组MoE XMX GEMM(PR #29245,由cwriter共同提交),其余内容为各平台预编译产物的下载链接。

AI解读:发布页未提供该改动带来的性能数据、基准测试结果或适用模型范围,因此无法据此判断加速比例,只能确认功能进入该构建。

同页发布了macOS/iOS、Linux、Android、Windows、openEuler及UI的多平台构建产物,涵盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16等后端。

其中macOS Apple Silicon(启用KleidiAI)与openEuler相关构建均标注为DISABLED。

llama.cpp发布b11493构建,发布说明列出的唯一代码变更为「sycl: add grouped MoE XMX GEMM」(PR #29245),由cwriter共同提交。

本次变更与适用范围

该PR在SYCL后端新增分组MoE XMX GEMM实现。发布页只列出这一条变更标题,未附性能数字、基准或支持的模型清单。

  • 变更提交:PR #29245,共同作者cwriter。
  • 目标后端:SYCL。
  • 功能描述:分组MoE XMX GEMM。

同版本发布的构建产物

发布页同时提供各平台预编译包下载,覆盖CPU与多种加速后端。

  • macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework。
  • Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16构建;Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)。
  • Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)。
  • Windows:x64/arm64 CPU,arm64 OpenCL Adreno,CUDA 12.4/13.4(x64与arm64),Vulkan,OpenVINO,SYCL,ROCm 10.0。
  • 另有UI打包与对应CUDA运行库下载。

被标注为禁用的条目

发布页将两项构建标记为DISABLED。

  • macOS Apple Silicon(arm64,启用KleidiAI):链接指向PR #23780,标注DISABLED。
  • openEuler:标注DISABLED,链接指向PR #23705,原计划包含openEuler x86/aarch64的 310p与 910b(ACL Graph)构建。

信息来源

llama.cpp Releases原始来源