开源llama.cpp Releases·原文 2026年9月23日本站收录 2026年9月24日

llama.cpp b11121发布:SYCL后端新增get_rows_back算子支持

该版本为SYCL后端加入get_rows_back算子,仅支持fp32和fp16两种数据类型,同时更新了ops.md文档,并照例提供多平台预编译包。

AI解读:这条更新只影响使用SYCL后端跑推理的用户。get_rows_back是反向传播/梯度相关算子,补上它让SYCL后端的算子覆盖率更完整,但对纯CPU、CUDA、Vulkan等后端用户没有直接变化。

限制也很明确:只有fp32和fp16,其他精度(例如量化类型)不在本次支持范围。用SYCL且模型权重非这两种精度的,暂时还享受不到这个算子。

同版本照例提供macOS/iOS、Linux、Windows、Android的预编译包,SYCL相关包有Ubuntu x64(FP32/FP16)和Windows x64(SYCL)可下载。

llama.cpp发布b11121版本,该版本的主要变更为SYCL后端新增get_rows_back算子支持,且仅支持fp32与fp16数据类型,同时更新了ops.md文档。

SYCL后端新增get_rows_back,限fp32/fp16

根据b11121发布说明,本次提交(#25266)为SYCL后端加入get_rows_back算子,并同步更新了ops.md。发布说明明确该算子“only support fp32/fp16”,即只支持fp32和fp16两种数据类型。

  • 变更内容:SYCL后端支持op get_rows_back。
  • 数据类型限制:仅fp32/fp16。
  • 关联文档:同步更新ops.md。
  • 对应PR:#25266。

同版本预编译包覆盖平台

b11121按惯例发布了多平台预编译产物,包括macOS/iOS、Linux、Android、Windows以及UI包。SYCL相关的预编译包为Ubuntu x64(SYCL FP32)和Ubuntu x64(SYCL FP16),以及Windows x64(SYCL)。

  • macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework。
  • Linux:Ubuntu x64/arm64/s390x(CPU)、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Linux arm64(Snapdragon)。
  • Android:arm64(CPU)与arm64(Snapdragon)。
  • Windows:x64/arm64(CPU)、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0。
  • 其他:UI包;openEuler相关产物显示为DISABLED;macOS Apple Silicon的KleidiAI版本同样标记为DISABLED。

信息来源

llama.cpp Releases原始来源