开源llama.cpp Releases·原文 2026年10月7日

llama.cpp b11466修复ggml-webgpu对重叠KV的flash_attn支持检查

该版本的主变更是一条代码修复:ggml-webgpu后端修正flash_attn的supports_op检查,针对KV缓存重叠的情况。发布页同时列出各平台预编译包。

AI解读:llama.cpp发布b11466,变更说明只有一条:ggml-webgpu修复flash_attn在KV重叠时的supports_op检查(#28205)。

该修复属于后端能力判断层面:supports_op决定某算子能否在该后端执行,此前对重叠KV的判断有误,可能导致不该走WebGPU flash_attn路径的情况被放行。

版本号b11466对应的预编译产物覆盖macOS(Apple Silicon、Intel)、iOS、Linux(含Ubuntu x64/arm64/s390x,以及Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16、Snapdragon的CPU/Adreno GPU/Hexagon NPU)、Android、Windows(CPU、OpenCL Adreno、CUDA、Vulkan、OpenVINO、SYCL、ROCm)以及一个UI包。

发布页显示,macOS Apple Silicon的KleidiAI启用构建和openEuler构建被标记为DISABLED。

来源未给出该修复的性能数据或对具体模型的影响范围,因此无法判断实际收益。

llama.cpp发布b11466版本,发布说明中的代码变更只有一条:ggml-webgpu后端修复flash_attn在KV缓存重叠时的supports_op检查(#28205)。

本次修复指向WebGPU后端的算子支持判断

llama.cpp在b11466的发布说明里把变更写为“ggml-webgpu: fix flash_attn supports_op check for overlapping KV (#28205)”。supports_op用于判断某个算子能否由对应后端执行,这次修正针对的是flash_attn在KV重叠情形下的判断逻辑。

发布说明未进一步描述触发条件、受影响模型或修复前后的行为差异,也未给出性能数据。

b11466提供哪些平台构建

发布页按平台列出预编译下载。macOS/iOS方面有Apple Silicon(arm64)、Intel(x64)和iOS XCFramework;其中Apple Silicon的KleidiAI启用构建被标注为DISABLED。

Linux方面包含Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12(含CUDA 12.8库)、CUDA 13(含CUDA 13.4库,x64与arm64)、ROCm 10.0、OpenVINO、SYCL FP32、SYCL FP16构建,另有面向Snapdragon的Linux arm64包(CPU、Adreno GPU、Hexagon NPU)并附设置指南。Android提供arm64 CPU包和Snapdragon(CPU、Adreno GPU、Hexagon NPU)包。

Windows方面提供x64与arm64的CPU构建,arm64的OpenCL Adreno构建,以及CUDA 12(含CUDA 12.4 DLL)、CUDA 13(含CUDA 13.4 DLL,x64与arm64)、Vulkan(x64与arm64)、OpenVINO、SYCL、ROCm 10.0构建。openEuler相关构建和KleidiAI一样标注为DISABLED,条目中列出x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)。另有一个UI包。

发布页同时留有Website与Attestations栏目,但内容为空。

信息来源

llama.cpp Releases原始来源