开源llama.cpp Releases·原文 2026年10月10日

llama.cpp发布b11538:修复CUDA取整问题,MSVC下CPU与GPU结果一致

llama.cpp的b11538版本以CUDA修复为主要变更,作者在发布说明中称该修复解决了取整问题,使MSVC构建下CPU与GPU结果一致;同版本继续提供覆盖多平台的预编译包。

llama.cpp发布b11538版本,发布说明列出的主要变更是一项CUDA修复:“CUDA: fix round issue, under MSVC the CPU and GPU agree (#30229)”。

据该发布说明,修复针对取整问题,并称在使用MSVC的情况下CPU与GPU结果一致。这一表述来自项目方发布说明,并非独立验证结论。

b11538列出的变更内容

发布说明的标题即变更内容:CUDA取整问题修复(PR #30229),并注明在MSVC下CPU与GPU一致。页面未展开说明取整差异出现的前提、影响的算子或验证方式。

  • 变更摘要:CUDA: fix round issue, under MSVC the CPU and GPU agree (#30229)
  • 发布者:github-actions[bot](llama.cpp Releases页面)

同版本提供的平台产物

发布说明以链接形式列出b11538的预编译产物,覆盖桌面、移动与服务器平台。以下为发布说明中列出的类别。

  • macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework;其中启用KleidiAI的Apple Silicon版本标记为DISABLED
  • Linux:Ubuntu x64/arm64/s390x(CPU)、Vulkan、CUDA 12(含 12.8 库)、CUDA 13(含 13.4 库)、ROCm 10.0、OpenVINO、SYCL FP32/FP16
  • Linux arm64 Snapdragon:CPU、Adreno GPU、Hexagon NPU(附setup guide)
  • Android arm64:CPU版本与Snapdragon(CPU、Adreno GPU、Hexagon NPU)版本
  • Windows:x64/arm64(CPU)、OpenCL Adreno(arm64)、CUDA 12.4、CUDA 13.4(x64与arm64)、Vulkan、OpenVINO、SYCL、ROCm 10.0
  • openEuler:x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)均标记为DISABLED
  • UI:llama-b11538-ui.tar.gz

信息来源

llama.cpp Releases原始来源