开源llama.cpp Releases·原文 2026年10月8日

llama.cpp发布b11501,SYCL后端加入FWHT优化

llama.cpp新构建b11501的更新项为sycl: FWHT optimizations(#29605),发布页同时列出macOS、Linux、Windows、Android等多平台二进制包,其中macOS Apple Silicon的KleidiAI版本和openEuler包标记为DISABLED。

AI解读:这次发布新增的实质内容是一项SYCL后端的FWHT优化,对应PR #29605;发布说明没有给出该优化的性能数据或适用模型范围。

b11501的二进制覆盖macOS/iOS、Linux、Android、Windows和UI等平台;macOS Apple Silicon的KleidiAI版本与openEuler相关包在页面上标记为DISABLED。

Linux与Windows的包按CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL等后端区分,SYCL在Linux上另有FP32与FP16两个版本。

Android与Linux arm64提供面向Snapdragon的包,发布页列出CPU、Adreno GPU、Hexagon NPU三种执行路径,并链接了对应安装指南。

对想用b11501的读者,SYCL优化只在选择SYCL构建时生效;KleidiAI与openEuler被禁用意味着这些路径当前不提供对应二进制。

llama.cpp发布构建b11501,更新说明中列出的改动为“sycl: FWHT optimizations”(PR #29605),属于SYCL后端的优化。

发布页按平台列出可下载的二进制包,包括macOS/iOS、Linux、Android、Windows、openEuler和UI,并区分CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL等不同后端。

b11501的改动与构建状态

该版本在GitHub Releases上以b11501标签发布,发布说明仅注明一项改动:sycl: FWHT optimizations(#29605)。来源未说明该优化的具体实现细节,也未给出性能提升幅度或影响的模型。

发布页同时标注部分构建被禁用:macOS Apple Silicon的KleidiAI启用版标记为DISABLED(关联PR #23780),openEuler相关包也标记为DISABLED(关联PR #23705)。

  • 更新项:sycl: FWHT optimizations(#29605)
  • macOS Apple Silicon(arm64,KleidiAI启用)标记为DISABLED
  • openEuler包标记为DISABLED
  • 发布说明未提供该优化的性能数据或适用范围

各平台可用包与后端划分

macOS/iOS提供Apple Silicon(arm64)、Intel(x64)和iOS XCFramework;其中KleidiAI启用版被禁用。Linux覆盖Ubuntu x64与arm64的CPU包、s390x CPU包,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL等版本,SYCL又分为FP32与FP16。

Windows提供x64与arm64的CPU包,以及OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等版本。Android提供arm64的CPU包以及面向Snapdragon的包,后者覆盖CPU、Adreno GPU、Hexagon NPU。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64/arm64 CPU、s390x CPU,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16
  • Windows:x64/arm64 CPU,以及OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)
  • Linux arm64 Snapdragon与Android Snapdragon包各自附有安装指南链接
  • UI单独提供tar.gz包

信息来源

llama.cpp Releases原始来源