开源llama.cpp Releases·原文 2026年9月23日本站收录 2026年9月24日

llama.cpp b11132支持Gemma 4 DSpark草稿骨干

该版本为全注意力和SWA两种Gemma 4 DSpark草稿加入GGUF转换与运行时支持,并处理绑定输出权重和布尔型骨干元数据。

AI解读:这次改动同时覆盖GGUF转换和运行时支持,针对全注意力与SWA两类Gemma 4 DSpark草稿,并处理了绑定输出权重和布尔型骨干元数据。说明支持落在格式转换与推理两端,不只是模型文件层面的适配。

贡献信息显示改动由Codex辅助完成,提交中没有给出性能数据、速度提升幅度或适用模型规模。因此这次更新的实际收益,取决于具体草稿模型和硬件,不能从版本说明直接推断。

llama.cpp发布b11132版本,`model : support Gemma4 DSpark draft backbone (#29226)` 为Gemma 4 DSpark草稿骨干加入支持。

具体改动包括新增对full-attention(全注意力)和SWA两类Gemma 4 DSpark草稿的GGUF转换与运行时支持,并处理绑定输出权重(tied output weights)与布尔型骨干元数据(boolean backbone metadata)。

GGUF转换与运行时两端同时适配

根据版本说明,这项支持同时落在GGUF转换和运行时,覆盖全注意力与SWA两种Gemma 4 DSpark草稿。

改动还包含绑定输出权重,以及从元数据推断Gemma草稿特征的逻辑(`dflash: infer Gemma draft features from metadata`)。

  • 新增Gemma 4 DSpark草稿支持(#29226)
  • 覆盖full-attention和SWA两种草稿
  • 包含GGUF转换与运行时支持
  • 处理绑定输出权重和布尔型骨干元数据

归因与未给出的数据

提交信息显示改动由Codex辅助(Assisted-by: Codex)。版本说明未提供速度提升、显存占用或适用模型规模等数据。

  • 改动归因:Assisted-by: Codex
  • 未提供性能数据或适用条件

构建产物覆盖平台

该版本照常提供多平台预编译产物,包括macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework,以及Linux上的Ubuntu x64、arm64、s390x等CPU版本。

GPU与加速后端方面,Linux产物覆盖Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16,以及骁龙(Snapdragon:CPU、Adreno GPU、Hexagon NPU)的arm64版本。

Android提供arm64 CPU与骁龙(CPU、Adreno GPU、Hexagon NPU)版本;Windows提供x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4、SYCL、ROCm 10.0等产物;另有UI包。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4、SYCL FP32/FP16
  • Linux arm64骁龙:CPU、Adreno GPU、Hexagon NPU
  • Android arm64:CPU与骁龙(CPU、Adreno GPU、Hexagon NPU)
  • Windows x64/arm64:CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4、SYCL、ROCm 10.0
  • 另有UI包

信息来源

llama.cpp Releases原始来源