llama.cpp b12028发布:测试套件启用Gemma 4并改用GQA
llama.cpp发布b12028构建,变更内容为在test-llama-archs中启用Gemma 4,并将该模型在该测试中的分组查询注意力配置改为GQA(PR #31401)。同步提供各平台预编译包。
AI解读:该版本唯一列出的代码变更是测试相关:在test-llama-archs中启用Gemma 4,并将Gemma 4在该测试中改为使用GQA。这两项改动来自PR #31401。
来源未说明改动对Gemma 4推理的支持范围、性能或精度是否有变化;测试启用不等于对所有Gemma 4变体和量化格式的完整支持。
发布页同时列出多平台预编译产物,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux多后端(CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL)以及Android、Windows各构建。
部分构建被标注为DISABLED:macOS Apple Silicon的KleidiAI启用版和openEuler相关产物未提供下载。
llama.cpp发布b12028版本。发布说明中列出的代码变更为PR #31401:在test-llama-archs中启用Gemma 4,并使用GQA配置。
该PR由发布机器人github-actions[bot] 汇总进版本页,页面未附带运行结果或性能数据。
测试改动内容
b12028的变更条目显示两项操作:启用test-llama-archs中的Gemma 4测试,以及在该测试中为Gemma 4使用GQA(分组查询注意力)。
发布说明没有说明此前Gemma 4为何未纳入该测试,也没有给出测试通过情况。
- 改动来自PR #31401,属于测试套件层面的调整。
- 发布页未提及该改动是否改变Gemma 4的推理支持范围或输出质量。
预编译产物与受限项
b12028按平台提供预编译包,macOS有Apple Silicon arm64与Intel x64版本,iOS提供XCFramework。
Linux侧包括Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端版本。
Windows提供x64/arm64 CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0等构建;Android提供arm64 CPU及骁龙CPU/Adreno GPU/Hexagon NPU版本。
页面将macOS Apple Silicon的KleidiAI启用版和openEuler相关构建标注为DISABLED,未提供对应下载链接。
- 发布包覆盖macOS、iOS、Linux、Windows、Android与UI组件。
- KleidiAI版macOS构建和openEuler构建在该版本中处于禁用状态。