llama.cpp b11768修复Responses API流式事件缺失output_index
llama.cpp发布b11768版本,服务器端在Responses API的SSE事件中补上output_index字段,以提高与依赖该字段的客户端的兼容性;该修复使用了Anthropic流式代码,并移除了部分工具调用相关字段。
llama.cpp发布b11768版本。该版本的服务器端提交(#30863)修复了Responses API的SSE流式事件中缺少output_index字段的问题,提交说明把这一改动定位为兼容性修复。
提交说明列出三项改动:在Responses API的SSE事件中包含output_index;复用Anthropic流式代码来实现该修复;移除不必要的generated_tool_call_ids和oai_resp_tool_calls_started。
改动内容与发布产物
b11768的发布说明以提交标题和改动条目为主,未附测试结果、受影响客户端列表或兼容性验证细节。因此,output_index修复的具体效果范围,只能由提交说明本身来界定。
该版本同时列出了各平台构建文件:macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework;Linux下Ubuntu的x64、arm64、s390x CPU构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建;Android arm64及Snapdragon变体;Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm构建,以及UI包。
发布说明中macOS Apple Silicon的KleidiAI版本和openEuler相关构建标注为DISABLED,并链接到对应PR。
- 提交 #30863:server: fix missing output_index in Responses API SSE events for compatibility
- 复用Anthropic流式代码实现output_index修复
- 移除generated_tool_call_ids与oai_resp_tool_calls_started
- 发布页提供多平台二进制与UI包下载