llama.cpp b12172为WebGPU后端加入批量张量读写API
该版本提交说明显示,WebGPU后端新增get_tensor_n与set_tensor_n两个接口(PR #31473),改动包含修正编辑器配置检查并删除过时注释;发布页同时提供macOS、Linux、Windows、Android等平台预编译包。
AI解读:llama.cpp发布b12172,主要代码变更在WebGPU后端:新增批量张量API get_tensor_n和set_tensor_n,对应PR #31473。
提交说明列出的改动还包括修正editor-config检查器、删除过时注释,未披露性能数据或使用范围细节。
发布页同步给出多平台预编译产物,包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu各CPU与Vulkan/CUDA/ROCm/OpenVINO/SYCL构建、Windows CPU/CUDA/Vulkan/OpenVINO/SYCL/ROCm构建、Android arm64及骁龙CPU/Adreno GPU/Hexagon NPU版本。
其中macOS Apple Silicon的KleidiAI版本与openEuler构建在发布页标注为DISABLED。
AI解读:这两个接口面向在WebGPU后端批量读取或写入张量的调用方;来源只说明接口新增,未说明哪些上层功能会使用它们,也未给出速度或显存方面的结果,适用效果需以实际使用为准。
llama.cpp发布b12172版本,其WebGPU后端新增批量张量API:get_tensor_n与set_tensor_n(PR #31473)。
WebGPU后端的具体改动
发布说明将该版本的首项变更记为“webgpu: add batched tensor API(get_tensor_n和set_tensor_n)”,来源为PR #31473。
同一提交说明列出的附带改动包括:修正editor-config检查器、删除一条过时注释。发布说明未提供这两个接口的性能数据、调用示例或与其他后端的对比。
同步发布的预编译包
发布页按平台列出b12172的构建产物,覆盖macOS、iOS、Linux、Android和Windows。
Linux侧包含Ubuntu x64/arm64/s390x的CPU构建,Ubuntu 26.04 s390x的CPU与zDNN构建,以及Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建,另有Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)包。
Windows侧包括x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4、CUDA 13.5、Vulkan、OpenVINO 2026.4.1、SYCL和ROCm 10.0构建;Android提供arm64 CPU与骁龙三单元包,并附设置指南链接。
- 标注为DISABLED的条目:macOS Apple Silicon(arm64,启用KleidiAI)与openEuler各构建。
- 发布页另附UI包与各平台CUDA运行库下载链接。