开源llama.cpp Releases·原文 2026年10月15日

llama.cpp b11640发布:Vulkan后端为cm2 mulmat改用L2友好工作组调度

该版本唯一列出的代码变更是针对Vulkan后端的cm2 mulmat工作组调度调整(PR #30215);发布页同时提供各平台二进制,包括新增或更新的CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1等构建。

AI解读:llama.cpp发布b11640,发布说明中列出的代码变更是“vulkan: Use L2-friendly workgroup scheduling for cm2 mulmat”(PR #30215),即Vulkan后端对cm2 mulmat采用对L2缓存更友好的工作组调度。

发布页未给出该变更的性能数据、适用GPU型号或量化收益,因此只能确认调度策略发生变化,不能推断具体加速幅度。

发布页提供macOS/iOS、Linux、Android、Windows等平台的预编译包,Linux与Windows均含CPU、Vulkan、CUDA、SYCL、OpenVINO、ROCm等不同后端构建。

Windows侧CUDA 12使用 12.4,CUDA 13使用 13.4;Linux侧CUDA 12为 12.8,CUDA 13为 13.4,ROCm为 10.0,OpenVINO为 2026.4.1。

macOS Apple Silicon的KleidiAI构建标注为DISABLED(PR #23780),openEuler构建同样标注为DISABLED(PR #23705)。

Android与Linux arm64提供面向Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包,并附有各自的setup guide链接。

llama.cpp发布b11640。发布说明列出的代码变更为Vulkan后端在cm2 mulmat上改用对L2友好的工作组调度,对应PR #30215。

b11640的Vulkan调度变更

发布说明以“vulkan: Use L2-friendly workgroup scheduling for cm2 mulmat (#30215)”作为该版本的主要条目,指向仓库PR 30215。

发布页没有附带该改动的基准测试结果、目标GPU列表或前后性能对比,因此无法从这份来源判断实际速度变化或适用范围。

随版本提供的构建

发布页按平台列出预编译包,覆盖macOS/iOS、Linux、Android、Windows,并提供UI包。

Linux与Windows的构建按后端拆分,包括CPU、Vulkan、CUDA、SYCL、OpenVINO、ROCm;其中OpenVINO版本标注为 2026.4.1。

  • macOS/iOS:Apple Silicon arm64、Intel x64、iOS XCFramework
  • Linux:Ubuntu x64/arm64/s390x CPU,Ubuntu Vulkan x64/arm64,CUDA 12.8与CUDA 13.4,ROCm 10.0,OpenVINO 2026.4.1,SYCL FP32/FP16
  • Windows:CPU x64/arm64,OpenCL Adreno arm64,CUDA 12.4、CUDA 13.4,Vulkan x64/arm64,OpenVINO 2026.4.1,SYCL,ROCm 10.0
  • Android:arm64 CPU,以及Snapdragon的CPU/Adreno GPU/Hexagon NPU组合包

被标注为禁用的构建

发布页中,macOS Apple Silicon的KleidiAI构建标注为DISABLED,链接指向PR 23780。

openEuler条目整体标注为DISABLED,链接指向PR 23705,其下列出的x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph)等构建均未提供下载链接。

信息来源

llama.cpp Releases原始来源