开源llama.cpp Releases·原文 2026年10月8日

llama.cpp b11496发布:SYCL后端模型加载改用固定环形缓冲区批量上传

该版本由cwriter合入PR #29608,将SYCL后端的模型加载批量上传改为通过固定(pinned)环形缓冲区分阶段进行;版本同时提供macOS、Linux、Windows、Android等多平台预编译包。

llama.cpp发布b11496。该版本的一项变更是SYCL后端在模型加载时的批量上传改为通过固定(pinned)环形缓冲区分阶段进行,对应PR #29608,提交由cwriter合入。

b11496的代码变更

发布说明中写明:sycl: stage bulk uploads (model loading) through a pinned ring buffer (#29608),合入者为cwriter。该描述只涉及SYCL后端模型加载阶段的批量上传路径。发布说明未提供性能数据或与旧实现的对比结果。

随版本提供的构建产物

发布页列出各平台预编译包。SYCL相关构建包括Ubuntu x64的SYCL FP32与SYCL FP16,以及Windows x64 SYCL。

其他列出的平台构建涵盖macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x,含CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO等变体)、Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)、Android arm64(CPU与Snapdragon变体)、Windows(CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)、openEuler以及独立的UI包。

  • macOS Apple Silicon(arm64,KleidiAI enabled)标注为DISABLED,链接至PR #23780;openEuler各构建同样标注DISABLED,链接至PR #23705。
  • Windows与Ubuntu的CUDA构建附带单独的CUDA运行库压缩包(如CUDA 12.4、12.8、13.4)。
  • Snapdragon相关构建在发布页分别提供Linux与Android的setup guide链接。

信息来源

llama.cpp Releases原始来源