开源llama.cpp Releases·原文 2026年10月20日

llama.cpp b11755修复Metal后端每token 9个专家时缺失的MoE内核变体

该版本发布说明列出的唯一改动是Metal后端的一项MoE内核修复,对应PR #30610 与 #30699;同时提供macOS、iOS、Linux、Android、Windows等多平台预编译包。

AI解读:这是llama.cpp项目的常规构建版本发布,发布信息由仓库自动化账号github-actions[bot] 提交,除上述Metal修复外未列出其他代码改动。

该版本附带各平台预编译产物,包括macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Android、Windows及Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)等。

发布说明中,macOS Apple Silicon的KleidiAI启用版本与openEuler相关构建标注为DISABLED,即本次未提供。

发布说明未给出该修复的性能数据或受影响的模型清单,其适用边界仅能按说明理解为Metal后端上每token激活 9 个专家的MoE推理路径。

普通读者需要弄清的是:该补丁针对Apple Metal上MoE模型的一种特定专家数配置,并非对所有MoE模型或所有后端通用;其他平台和专家数的行为不在本次修复说明覆盖范围内。

llama.cpp发布build b11755。发布说明列出的改动是Metal后端修复:为每token 9个专家的情况补上缺失的MoE内核变体,关联PR #30610 与 #30699。

修复内容与提交信息

在GitHub Releases页面,b11755的标题为“metal : fix missing MoE kernel variant for 9 experts per token (#30610) (#30699)”。这说明改动位于Metal后端,针对MoE(混合专家)推理中每token选择 9 个专家时缺少对应内核变体的问题。

该发布条目由github-actions[bot] 发布,发布说明中未附修复前后的对比数据、受影响模型名或测试结果。

  • 改动:Metal后端补充每token 9个专家的MoE内核变体
  • 关联PR:#30610、#30699
  • 未给出性能数据与适用模型清单

随版本提供的平台构建

b11755同时提供多平台预编译包与库文件,覆盖桌面、移动端与多种GPU/NPU后端。发布说明中macOS Apple Silicon的KleidiAI启用版本与openEuler相关构建被标注为DISABLED。

Windows侧提供CPU(x64/arm64)、OpenCL Adreno(arm64)、CUDA 12.4、CUDA 13.4(含arm64)、Vulkan、OpenVINO 2026.4.1、SYCL与ROCm 10.0等包;Linux侧另含Snapdragon的CPU、Adreno GPU与Hexagon NPU组合包,并附设置指南链接。

  • macOS:Apple Silicon arm64、Intel x64、iOS XCFramework;KleidiAI版本DISABLED
  • Linux:Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8、CUDA 13.4(含arm64)、ROCm 10.0、OpenVINO、SYCL FP32/FP16
  • Android:arm64 CPU、arm64骁龙(CPU/Adreno GPU/Hexagon NPU)
  • Windows:CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno
  • openEuler:相关构建标注DISABLED

信息来源

llama.cpp Releases原始来源