llama.cpp b12187为WebGPU后端加入group norm内核
该版本由llama.cpp发布,提交说明称新增WebGPU group_norm内核,并补充了性能测试与新增测试用例;同一版本照例提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp发布b12187版本,发布说明中的提交记录显示,本次主要改动是在WebGPU后端实现group norm内核(PR #31490)。
提交列表还包含为group_norm添加性能测试、新增测试用例,以及清理cmake改动、加入nullptr检查、更新supports_op条件与文档等配套修改。
WebGPU内核改动的具体内容
提交说明把改动描述为“Implement group norm kernel”,并列出参数化数据类型、移除WebGPU未使用的特性检查、使用 2D方式分派工作组(Do 2d dispatch of workgroups)。
同一提交记录还提到撤销test-backend-ops中的一处改动、撤销文档中的无关变动,以及用脚本整理文档内容。
- 新增WebGPU group_norm内核
- 数据类型参数化
- 加入nullptr检查
- 为group_norm添加性能测试
- 新增一个测试用例
- 工作组采用 2D分派
同版本提供的构建产物
b12187发布页按平台列出预编译包,涵盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端版本。
Windows侧提供x64/arm64 CPU、CUDA 12.4与 13.5、Vulkan、OpenVINO、SYCL、ROCm 10.0等构建;Android提供arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包,另有一个UI包。
- macOS arm64、macOS x64、iOS XCFramework
- Ubuntu x64/arm64/s390x CPU及Vulkan、CUDA、ROCm、OpenVINO、SYCL构建
- Windows x64/arm64各后端构建
- Android arm64与Snapdragon专用包
- UI包
被标注为禁用的条目
发布页中若干条目标注为DISABLED,包括macOS Apple Silicon的KleidiAI启用版本(关联PR #23780)、openEuler的x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph(关联PR #23705)。
- macOS arm64 KleidiAI版本:DISABLED
- openEuler四个构建:DISABLED