开源llama.cpp Releases·原文 2026年11月6日

llama.cpp发布b12138:Metal后端对 32 位场景改用mul_mm

llama.cpp新构建b12138的发布说明首行为“metal : use mul_mm for 32”,其余内容为各平台预编译包清单;macOS的KleidiAI版本与openEuler构建本次标注为DISABLED。

llama.cpp发布b12138版本,发布说明中标注的改动为“metal : use mul_mm for 32”,即Metal后端在 32 相关路径上使用mul_mm。除此之外,该发布页主要列出各平台预编译包。

发布页未给出这一改动的具体实现细节、适用模型或量化类型,也没有附带速度对比数据。

本次改动与构建状态

发布说明的改动描述只有一行“metal : use mul_mm for 32”,未说明“32”指代的具体维度、数据类型或kernel参数。

macOS Apple Silicon(arm64,启用KleidiAI)的构建在本次发布中标注为DISABLED,并链接到PR 23780;openEuler的x86(310p、910b ACL Graph)与aarch64(310p、910b ACL Graph)构建同样标注为DISABLED,链接到PR 23705。发布页未解释禁用原因。

  • 改动摘要:metal : use mul_mm for 32
  • DISABLED:macOS Apple Silicon arm64 KleidiAI启用版本(PR 23780)
  • DISABLED:openEuler x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph(PR 23705)

预编译包覆盖范围

发布页按平台列出下载项,覆盖macOS、iOS、Linux、Android和Windows,并包含一个独立的UI包。Linux侧提供Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端版本;其中s390x另有Ubuntu 26.04与zDNN变体。

Windows侧包含x64/arm64 CPU包、OpenCL Adreno、CUDA 12.4与CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL和ROCm 10.0。Android与Linux arm64另提供面向Snapdragon的CPU、Adreno GPU、Hexagon NPU打包,并附有对应的安装指南链接。

  • CUDA相关包同时提供对应的cudart运行库压缩包
  • Snapdragon专用包分Linux arm64与Android arm64两种,各附setup guide
  • iOS以XCFramework形式分发

信息来源

llama.cpp Releases原始来源