开源llama.cpp Releases·原文 2026年10月13日

llama.cpp发布b11583:图执行在“无缓存”路径下避免重新分配

该版本变更标题为“graph : avoid reallocations in the "no cache" path (#30439)”,同时按平台和加速后端发布预编译包,macOS的KleidiAI构建与openEuler构建在此版本中被标记为DISABLED。

llama.cpp发布b11583。发布说明给出的变更标题为“graph : avoid reallocations in the "no cache" path (#30439)”,即图执行在“无缓存”路径下避免重新分配。

同一发布页按平台和加速后端列出预编译产物。其中macOS Apple Silicon(arm64,KleidiAI enabled)标记为DISABLED,openEuler各条目也标记为DISABLED,并分别指向PR #23780 与PR #23705。

b11583的代码变更

来源中可确认的代码变更只有一项:graph : avoid reallocations in the "no cache" path,编号 #30439。其余内容为按平台发布的构建产物链接。

该变更针对“no cache”路径下的重新分配问题。来源没有说明该路径的触发条件、具体实现方式,也没有给出修改前后的性能或内存对比数据。

  • 变更标题:graph : avoid reallocations in the "no cache" path
  • 对应PR:#30439
  • 变更范围:图执行的“no cache”路径
  • 来源未提供:性能数据、内存数据、适用模型范围

随版本发布的平台构建

b11583的发布页列出多个平台的预编译产物。macOS/iOS包含Apple Silicon(arm64)、Intel(x64)以及iOS XCFramework;其中Apple Silicon的KleidiAI启用版本标记为DISABLED。

Linux侧包含Ubuntu x64/arm64/s390x CPU包,以及Vulkan、CUDA 12(12.8)、CUDA 13(13.4)、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32与FP16构建;另有面向Snapdragon的Linux arm64包,覆盖CPU、Adreno GPU与Hexagon NPU。

Android提供arm64 CPU包与Snapdragon包(CPU、Adreno GPU、Hexagon NPU)。Windows提供x64与arm64 CPU包、arm64 OpenCL Adreno包,以及CUDA 12(12.4)、CUDA 13(13.4)、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0构建。此外还单独提供UI包。

  • macOS Apple Silicon(arm64,KleidiAI enabled):DISABLED,指向PR #23780
  • openEuler:DISABLED,指向PR #23705;列出x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)
  • Linux CUDA包分别对应CUDA 12.8与CUDA 13.4,并提供对应的CUDA运行时库压缩包
  • Windows CUDA包分别对应CUDA 12.4与CUDA 13.4,并提供对应的CUDA DLL压缩包
  • OpenVINO构建版本号为 2026.4.1,出现在Ubuntu x64与Windows x64

信息来源

llama.cpp Releases原始来源