开源llama.cpp Releases·原文 2026年11月9日

llama.cpp b12210发布:CPU后端为SpacemiT IME2启用MXFP4稠密重排

llama.cpp发布b12210版本,变更项为在CPU路径上启用SpacemiT IME2的MXFP4稠密重排(#31776),同时照常提供macOS、Linux、Windows、Android等多平台预编译包。

AI解读:这条发布说明中最实质的改动只有一项:在CPU后端启用SpacemiT IME2的MXFP4稠密重排,合并请求编号为 #31776。来源没有给出这项改动带来的性能数字或适用芯片型号的更多细节。

启用对象是SpacemiT IME2这一指令/加速能力,改动落在CPU路径,而不是GPU或NPU后端。来源未说明哪些CPU或开发板具备IME2,以及不支持该能力的设备会走哪条回退路径。

从发布内容看,这是一次常规版本构建,除上述提交说明外,其余部分主要是各平台预编译产物的下载链接。来源没有提供基准测试结果,因此无法据此判断速度提升幅度。

发布说明中macOS Apple Silicon的KleidiAI构建和openEuler相关构建标注为DISABLED,本次不提供这两类产物。这属于打包状态信息,来源未解释关闭原因。

llama.cpp发布b12210版本。发布说明列出的唯一代码变更为:cpu: enable SpacemiT IME2 MXFP4 dense repack(#31776),由gitGurugu提交,说明中标注Assisted-by: Codex。

该版本按惯例提供各平台预编译包,覆盖macOS、iOS、Linux、Windows、Android以及多种加速后端。

MXFP4稠密重排落在CPU路径

发布说明把这项改动写在CPU类别下,内容是启用SpacemiT IME2的MXFP4稠密重排。MXFP4是权重或计算使用的数值格式,稠密重排指对数据布局做重新排列,这项改动针对SpacemiT IME2这一具体加速能力。

来源没有列出受支持的芯片清单,也没有说明在缺少IME2的设备上是否仍能运行、走哪条代码路径。因此这项改动的影响范围应限定在具备该能力的CPU上,超出此范围的效果没有来源依据。

  • 变更项:cpu: enable SpacemiT IME2 MXFP4 dense repack
  • 合并请求编号:#31776
  • 提交者署名:gitGurugu;说明标注Assisted-by: Codex

预编译产物与禁用项

发布包覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu x64/arm64/s390x(含zDNN)、Vulkan、CUDA 12与CUDA 13(x64与arm64)、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16、Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64以及Windows的CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm版本,另附UI包。

说明中macOS Apple Silicon的KleidiAI构建和openEuler各项构建标记为DISABLED,本次未提供对应产物。来源未给出禁用原因,也未说明是否将在后续版本恢复。

  • macOS Apple Silicon(arm64,KleidiAI enabled)标记DISABLED
  • openEuler x86/aarch64的 310p与 910b(ACL Graph)产物标记DISABLED
  • CUDA 12.8、CUDA 13.5、ROCm 10.0、OpenVINO 2026.4.1等后端均提供独立库或安装包

信息来源

llama.cpp Releases原始来源