开源llama.cpp Releases·原文 2026年10月21日

llama.cpp b11769修复server路由未将客户端断连完整传递到子进程的问题

该版本由GitHub Actions自动发布,合并 #29707:Router此前未能将客户端断连完整传递给子进程,等待响应可能导致取消被延迟;同时移除了对时序敏感的router取消测试。

llama.cpp发布b11769版本。发布说明列出的主要变更是server端Router的客户端断连处理:Router此前没有把客户端断连完整传播到子进程,等待响应的环节可能导致取消被延迟(PR #29707)。

Router断连传播的改动与测试调整

发布说明称,修复针对的是server的Router在客户端断开连接时对子进程的传播不完整,响应等待可能使取消动作延后。同一PR中,测试部分为满足router断连的类型检查做了修改,并移除了对时序敏感的router取消测试。发布说明注明该变更由Codex辅助完成(Assisted-by: Codex)。

  • 变更点:Router未把客户端断连完整传播到子进程,等待响应可能导致取消延迟。
  • 测试调整:满足router断连类型检查;移除时序敏感的router取消测试。
  • 归因:发布说明标注Assisted-by: Codex。

b11769提供的构建产物

该版本发布页列出了各平台的预编译包,覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x,含Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等)、Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(x64/arm64,含CUDA、Vulkan、OpenVINO、SYCL、ROCm、OpenCL Adreno)以及UI包。

  • 发布说明中macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,openEuler构建同样标注为DISABLED。
  • 发布说明未给出该修复对取消延迟的量化改善数据。

信息来源

llama.cpp Releases原始来源