开源llama.cpp Releases·原文 2026年11月7日

llama.cpp b12187为WebGPU后端加入group norm内核

该版本由llama.cpp发布,提交说明称新增WebGPU group_norm内核,并补充了性能测试与新增测试用例;同一版本照例提供macOS、Linux、Windows、Android等多平台预编译包。

llama.cpp发布b12187版本,发布说明中的提交记录显示,本次主要改动是在WebGPU后端实现group norm内核(PR #31490)。

提交列表还包含为group_norm添加性能测试、新增测试用例,以及清理cmake改动、加入nullptr检查、更新supports_op条件与文档等配套修改。

WebGPU内核改动的具体内容

提交说明把改动描述为“Implement group norm kernel”,并列出参数化数据类型、移除WebGPU未使用的特性检查、使用 2D方式分派工作组(Do 2d dispatch of workgroups)。

同一提交记录还提到撤销test-backend-ops中的一处改动、撤销文档中的无关变动,以及用脚本整理文档内容。

  • 新增WebGPU group_norm内核
  • 数据类型参数化
  • 加入nullptr检查
  • 为group_norm添加性能测试
  • 新增一个测试用例
  • 工作组采用 2D分派

同版本提供的构建产物

b12187发布页按平台列出预编译包,涵盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端版本。

Windows侧提供x64/arm64 CPU、CUDA 12.4与 13.5、Vulkan、OpenVINO、SYCL、ROCm 10.0等构建;Android提供arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包,另有一个UI包。

  • macOS arm64、macOS x64、iOS XCFramework
  • Ubuntu x64/arm64/s390x CPU及Vulkan、CUDA、ROCm、OpenVINO、SYCL构建
  • Windows x64/arm64各后端构建
  • Android arm64与Snapdragon专用包
  • UI包

被标注为禁用的条目

发布页中若干条目标注为DISABLED,包括macOS Apple Silicon的KleidiAI启用版本(关联PR #23780)、openEuler的x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph(关联PR #23705)。

  • macOS arm64 KleidiAI版本:DISABLED
  • openEuler四个构建:DISABLED

信息来源

llama.cpp Releases原始来源