开源llama.cpp Releases·原文 2026年11月6日

llama.cpp发布b12135:WebGPU后端新增MEAN算子支持

llama.cpp在b12135版本的发布说明中列出唯一功能变更为WebGPU后端加入MEAN支持(PR #31591),并在提交说明中标注Assisted-by: Codex。同版本继续提供覆盖macOS、iOS、Linux、Android、Windows等平台的预编译包。

AI解读:llama.cpp发布b12135版本,发布说明中列出的功能变更为为WebGPU后端添加MEAN支持,对应拉取请求 #31591。

该提交说明中标注“Assisted-by: Codex”,即作者声明该改动获得Codex协助;这属于提交方的署名信息,不代表对代码质量的独立验证。

发布说明只列出这一项功能改动,未提供性能数据、测试结果或受影响模型与算子的具体范围,因此无法据此判断加速幅度或兼容性变化。

同版本仍按既有矩阵提供预编译产物,包括macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu多种CPU与GPU后端、Android arm64、Windows x64/arm64,以及UI包。

部分条目在发布说明中标注为DISABLED,包括启用KleidiAI的macOS Apple Silicon构建和openEuler系列构建;这些构建未随本版本提供。

llama.cpp发布b12135版本。根据其GitHub Releases发布说明,本次列出的唯一功能变更是为WebGPU后端添加MEAN支持,对应PR #31591。

提交说明中带有“Assisted-by: Codex”署名。发布说明未附性能数据、测试覆盖范围或受影响的模型与算子列表。

WebGPU后端新增MEAN算子

发布说明把b12135的改动概括为“webgpu : add MEAN support (#31591)”。MEAN指对张量元素求均值的算子,在推理计算图中用于归一化等环节;本次变更将其纳入WebGPU后端的支持范围。

来源未说明该实现覆盖哪些数据类型、是否支持任意维度输入,也未给出发热或吞吐对比,因此无法从这份发布说明判断实际加速效果。

  • 改动条目:webgpu : add MEAN support (#31591)
  • 提交署名:Assisted-by: Codex
  • 未提供:性能数据、测试结果、适用数据类型与维度说明

预编译包矩阵与禁用项

b12135沿用既有的多平台预编译分发方式,覆盖桌面与移动端。发布说明中macOS Apple Silicon(启用KleidiAI)构建和openEuler的x86、aarch64构建被标注为DISABLED,未随本版本发布。

Windows与Linux的CUDA构建分别提供 12.x与 13.4 两条线,并单列对应的运行时库压缩包;Linux侧还包含Vulkan、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16以及面向Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI版本为DISABLED
  • Linux:Ubuntu x64/arm64/s390x CPU,Ubuntu 26.04 s390x(含zDNN),Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16,以及Snapdragon组合包
  • Android:arm64 CPU,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)包
  • Windows:x64/arm64 CPU,arm64 OpenCL Adreno,CUDA 12.4/13.4(含arm64),Vulkan,OpenVINO,SYCL,ROCm 10.0
  • 其他:openEuler各构建均为DISABLED;另提供独立UI包

信息来源

llama.cpp Releases原始来源