开源llama.cpp Releases·原文 2026年10月16日

llama.cpp b11695发布:为Mellum2.1加入MTP支持

llama.cpp发布b11695版,更新日志显示该版本为Mellum2.1模型加入MTP(多token预测)支持,并将Mellum的rope构造改为内联实现。

llama.cpp发布b11695版本,更新说明中列出的主要代码改动为“model : MTP support for Mellum2.1”,即给Mellum2.1模型加入MTP支持(关联PR #30612)。

同一提交还包含“model : MTP support for Mellum”与“model : inline rope construction in Mellum”两项改动,来源为llama.cpp Releases页面的版本说明。

本次版本包含的改动与产物

b11695的更新条目只有三项,均指向Mellum系列模型:为Mellum加入MTP支持、为Mellum2.1加入MTP支持(#30612),以及把Mellum的rope构造改为内联实现。

发布页同时提供该版本的各平台预编译产物,覆盖macOS/iOS、Linux、Android、Windows与openEuler,并提供UI包。

  • macOS/iOS:macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework;其中macOS Apple Silicon(arm64,启用KleidiAI)标注为DISABLED(关联PR #23780)
  • Linux:Ubuntu x64/arm64/s390x(CPU)、Ubuntu x64/arm64(Vulkan)、Ubuntu x64(CUDA 12,CUDA 12.8库)、Ubuntu x64/arm64(CUDA 13,CUDA 13.4库)、Ubuntu x64(ROCm 10.0)、Ubuntu x64(OpenVINO 2026.4.1)、Ubuntu x64(SYCL FP32/FP16)、Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)
  • Android:Android arm64(CPU)、Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)
  • Windows:x64/arm64(CPU)、arm64(OpenCL Adreno)、x64(CUDA 12,CUDA 12.4 DLL)、x64/arm64(CUDA 13,CUDA 13.4 DLL)、x64/arm64(Vulkan)、x64(OpenVINO 2026.4.1)、x64(SYCL)、x64(ROCm 10.0)
  • openEuler:x86(310p)、x86(910b,ACL Graph)、aarch64(310p)、aarch64(910b,ACL Graph)均标注为DISABLED(关联PR #23705)
  • 另提供UI包:llama-b11695-ui.tar.gz

适用范围与限制

发布说明只写明b11695为Mellum与Mellum2.1加入MTP支持,未给出该支持带来的性能提升数据、适用量化格式或最低硬件要求。

发布页列出的部分构建被标注为DISABLED,包括启用KleidiAI的macOS Apple Silicon(arm64)以及全部openEuler构建,相关PR编号为 #23780 与 #23705。

信息来源

llama.cpp Releases原始来源