开源llama.cpp Releases·原文 2026年10月21日

llama.cpp b11768修复Responses API流式事件缺失output_index

llama.cpp发布b11768版本,服务器端在Responses API的SSE事件中补上output_index字段,以提高与依赖该字段的客户端的兼容性;该修复使用了Anthropic流式代码,并移除了部分工具调用相关字段。

llama.cpp发布b11768版本。该版本的服务器端提交(#30863)修复了Responses API的SSE流式事件中缺少output_index字段的问题,提交说明把这一改动定位为兼容性修复。

提交说明列出三项改动:在Responses API的SSE事件中包含output_index;复用Anthropic流式代码来实现该修复;移除不必要的generated_tool_call_ids和oai_resp_tool_calls_started。

改动内容与发布产物

b11768的发布说明以提交标题和改动条目为主,未附测试结果、受影响客户端列表或兼容性验证细节。因此,output_index修复的具体效果范围,只能由提交说明本身来界定。

该版本同时列出了各平台构建文件:macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework;Linux下Ubuntu的x64、arm64、s390x CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建;Android arm64及Snapdragon变体;Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm构建,以及UI包。

发布说明中macOS Apple Silicon的KleidiAI版本和openEuler相关构建标注为DISABLED,并链接到对应PR。

  • 提交 #30863:server: fix missing output_index in Responses API SSE events for compatibility
  • 复用Anthropic流式代码实现output_index修复
  • 移除generated_tool_call_ids与oai_resp_tool_calls_started
  • 发布页提供多平台二进制与UI包下载

信息来源

llama.cpp Releases原始来源