llama.cpp b11121发布:SYCL后端新增get_rows_back算子支持
该版本为SYCL后端加入get_rows_back算子,仅支持fp32和fp16两种数据类型,同时更新了ops.md文档,并照例提供多平台预编译包。
AI解读:这条更新只影响使用SYCL后端跑推理的用户。get_rows_back是反向传播/梯度相关算子,补上它让SYCL后端的算子覆盖率更完整,但对纯CPU、CUDA、Vulkan等后端用户没有直接变化。
限制也很明确:只有fp32和fp16,其他精度(例如量化类型)不在本次支持范围。用SYCL且模型权重非这两种精度的,暂时还享受不到这个算子。
同版本照例提供macOS/iOS、Linux、Windows、Android的预编译包,SYCL相关包有Ubuntu x64(FP32/FP16)和Windows x64(SYCL)可下载。
llama.cpp发布b11121版本,该版本的主要变更为SYCL后端新增get_rows_back算子支持,且仅支持fp32与fp16数据类型,同时更新了ops.md文档。
SYCL后端新增get_rows_back,限fp32/fp16
根据b11121发布说明,本次提交(#25266)为SYCL后端加入get_rows_back算子,并同步更新了ops.md。发布说明明确该算子“only support fp32/fp16”,即只支持fp32和fp16两种数据类型。
- 变更内容:SYCL后端支持op get_rows_back。
- 数据类型限制:仅fp32/fp16。
- 关联文档:同步更新ops.md。
- 对应PR:#25266。
同版本预编译包覆盖平台
b11121按惯例发布了多平台预编译产物,包括macOS/iOS、Linux、Android、Windows以及UI包。SYCL相关的预编译包为Ubuntu x64(SYCL FP32)和Ubuntu x64(SYCL FP16),以及Windows x64(SYCL)。
- macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework。
- Linux:Ubuntu x64/arm64/s390x(CPU)、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Linux arm64(Snapdragon)。
- Android:arm64(CPU)与arm64(Snapdragon)。
- Windows:x64/arm64(CPU)、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0。
- 其他:UI包;openEuler相关产物显示为DISABLED;macOS Apple Silicon的KleidiAI版本同样标记为DISABLED。