开源llama.cpp Releases·原文 2026年10月28日

llama.cpp b11940在common层支持延迟工具与tool_reference内容块

该版本更新说明列出的唯一代码变更是common模块支持deferred tools和tool_reference内容块(PR #31256),并修正相关测试的类型检查;提交记录标注了Claude Opus 5.5的Assisted-by与Aldehir Rojas的Co-authored-by。

AI解读:提交信息显示协作信息:Co-authored-by为Aldehir Rojas,Assisted-by为Claude Opus 5.5;同一PR内还修正了deferred tools测试的类型检查。

来源只描述了合并请求层面的改动,未说明延迟工具在何种调用流程下生效、适用于哪些模型或客户端,也未给出性能或兼容性数据。

b11940同时提供macOS/iOS、Linux、Android、Windows及UI等平台的预编译包,涵盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL与Snapdragon等后端;macOS的KleidiAI变体和openEuler构建在说明中标记为DISABLED。

llama.cpp发布版本b11940。更新说明列出的代码变更是common模块支持延迟工具(deferred tools)与tool_reference内容块,对应PR #31256;该PR还包含修正deferred tools测试类型检查的提交。

b11940的代码改动

更新说明中,代码变更条目为“common : support deferred tools and tool_reference content parts (#31256)”。提交记录显示,该PR由Claude Opus 5.5以Assisted-by身份协助,Aldehir Rojas为Co-authored-by。

同一PR下另有一条测试修正:“tests : fix the type check of the deferred tools test”。来源没有进一步说明这两项改动在API或运行时行为上的具体差异。

未说明的适用范围

来源未说明deferred tools与tool_reference内容块适用于哪些模型、客户端或工具调用协议,也没有给出该功能在何种条件下启用、是否有默认开关,以及是否影响既有工具调用行为。

发布说明未附性能数据、兼容性说明或使用示例。因此,目前只能确认common模块新增了对上述两类内容的支持,无法据此判断实际调用效果。

同版本提供的构建包

b11940的发布页同时列出各平台预编译包:macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework;Ubuntu的x64、arm64、s390x的CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建;Linux arm64的Snapdragon构建(CPU、Adreno GPU、Hexagon NPU)。

Windows侧提供x64与arm64的CPU构建,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0和OpenCL Adreno(arm64)构建;Android提供arm64 CPU与Snapdragon构建。

发布说明中,macOS Apple Silicon的KleidiAI变体与openEuler构建均标注为DISABLED。

信息来源

llama.cpp Releases原始来源