开源llama.cpp Releases·原文 2026年10月16日

llama.cpp发布b11678:CUDA固定主机缓冲区上限设为 4 GB

该版本的核心变更是将CUDA pinned host buffer的最大值限制在 4 GB,对应PR #30449;发布页同时提供多平台预编译包。

llama.cpp发布b11678版本,该版本在发布说明中列出的代码变更为:将CUDA固定主机缓冲区(pinned host buffer)的最大值限制为 4 GB,对应PR #30449。

b11678的变更

发布页把该版本描述为 “Limit max CUDA pinned host buffer size to 4 GB (#30449)”。这是release说明中唯一列出的代码改动;除该改动外,页面其余部分为各平台二进制包与库文件的下载链接。

  • 变更内容:限制CUDA pinned host buffer最大为 4 GB。
  • 对应PR编号:#30449。
  • 发布标识:b11678。

同批发布的构建产物

该release附带macOS/iOS、Linux、Android、Windows以及UI的预编译包,覆盖CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL、OpenCL Adreno等后端。CUDA相关包包含Ubuntu与Windows的x64、arm64版本,涉及CUDA 12.4、12.8、13.4 等版本及配套运行库。

  • macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework;其中Apple Silicon的KleidiAI构建标注为DISABLED。
  • Linux/Ubuntu:CPU(x64、arm64、s390x)、Vulkan(x64、arm64)、CUDA 12.8(x64)、CUDA 13.4(x64、arm64)、ROCm 10.0(x64)、OpenVINO 2026.4.1(x64)、SYCL FP32/FP16(x64)。
  • Android:arm64 CPU、arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)。
  • Windows:CPU(x64、arm64)、OpenCL Adreno(arm64)、CUDA 12.4/13.4(x64、arm64)及DLL、Vulkan(x64、arm64)、OpenVINO 2026.4.1(x64)、SYCL(x64)、ROCm 10.0(x64)。
  • openEuler构建在本版本中标注为DISABLED(PR #23705)。

信息来源

llama.cpp Releases原始来源