开源llama.cpp Releases·原文 2026年10月10日

llama.cpp b11530修复采样图跨ubatch拓扑变化导致的调度中止

llama.cpp发布b11530版本,源码变更让后端采样图在reserve与decode阶段保持相同拓扑,避免GGML_SCHED_NO_REALLOC构建在后续同尺寸图上中止。

llama.cpp发布b11530版本,包含提交 #30223 的变更:保持后端采样图在多个ubatch之间拓扑静态。

提交说明称,reserve阶段会为每个采样器构建n_outputs_max_per_seq条采样链,而decode阶段每个输出行构建一条链,因此图在reserve之后改变了拓扑;GGML_SCHED_NO_REALLOC构建在下一个同样尺寸的图上中止。

修复内容

提交说明给出的方案是:每个采样器现在都构建n_outputs_max_per_seq条采样链。没有对应ubatch行的链放在填充行上,并且不被选中,graph_max_nodes会把这些链计入。

该版本同时提供多个平台的预编译二进制包,覆盖macOS、iOS、Linux、Android和Windows,包含CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL等后端,以及Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包。发布页面还列出UI包和Linux openEuler相关条目,其中macOS Apple Silicon启用KleidiAI的构建与openEuler被标记为DISABLED。

信息来源

llama.cpp Releases原始来源