开源llama.cpp Releases·原文 2026年10月9日

llama.cpp b11523发布:为WebGPU后端补上GGML_OP_DUP支持

该版本修复了PR-29622混合批处理路径在WebGPU上因DUP算子缺失而崩溃的问题;修复说明称DUP与CPY、CONT同为拷贝操作,现走同一实现路径。

AI解读:llama.cpp发布b11523版本,变更说明中唯一的代码改动是让WebGPU后端支持GGML_OP_DUP算子,标注为ci修复,对应issue/PR编号 #30216。

按发布说明的描述,崩溃发生在PR-29622引入的混合批处理路径:该路径用set_rows把token行写入embeddings的一份dup,WebGPU此前不支持DUP,导致dup在CPU上执行,而写入它的set_rows被调度到WebGPU,最终绑定CPU缓冲区后崩溃。

修复方式是把DUP归入与CPY、CONT相同的拷贝路径处理。这是发布说明给出的技术描述,未附独立的性能或正确性验证数据。

llama.cpp发布b11523版本。发布说明列出的代码改动只有一项:为WebGPU后端增加对GGML_OP_DUP的支持(#30216)。

崩溃原因与修复方式

发布说明称,PR-29622的混合批处理路径会用set_rows把token行写入embeddings的一份dup。WebGPU此前不支持DUP,于是dup在CPU上执行,而写入它的set_rows被调度到WebGPU,后者随后绑定了一个CPU缓冲区并崩溃。

说明中写道,DUP与CPY、CONT属于同一种拷贝,现在走同一条路径。

本次发布包含的构建产物

b11523一并提供多平台预编译包,覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Linux(Ubuntu x64/arm64/s390x,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16版本)、Android arm64、Windows x64/arm64(CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm、OpenCL Adreno)以及Snapdragon的Linux/Android包。

另有UI包与CUDA运行时库包。openEuler相关条目与启用KleidiAI的macOS Apple Silicon版本在本次发布中标记为DISABLED。

信息来源

llama.cpp Releases原始来源