开源llama.cpp Releases·原文 2026年10月27日

llama.cpp发布b11912:为Laguna启用MoE amax重缩放

该版本提交说明称启用Laguna的MoE amax重缩放并声明Laguna sm张量支持,同时照例提供macOS、Linux、Windows、Android等多平台预编译包。

AI解读:发布页同时列出多平台预编译产物,涵盖macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL)、Windows、Android及Snapdragon专用包。

提交说明未给出Laguna是什么模型、amax重缩放的具体作用或任何性能数据,读者无法从该发布页判断实际效果。

llama.cpp发布b11912版本。该版本提交说明写明的代码变更为“enable moe amax rescaling for laguna”,并“declare laguna sm tensor support”,提交说明标注Assisted-by: Devin。

发布页同时按惯例列出各平台预编译包下载链接,包括macOS、iOS、Linux、Windows、Android和UI包。

本次提交改了什么

根据发布页的提交说明,b11912的改动集中在Laguna相关支持:为Laguna启用MoE amax重缩放,并声明Laguna sm张量支持。这两项描述来自提交信息本身,发布页未展开技术细节。

说明中的“MoE”指混合专家结构,“amax重缩放”涉及数值缩放处理,但来源没有说明适用哪些模型文件、是否需要额外参数或会影响哪些后端。

可下载的平台产物

发布页列出的产物覆盖macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework;Ubuntu的x64/arm64/s390x CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16包;Windows的CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm包;Android arm64及Snapdragon专用包;另有UI包。

  • macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,链接指向PR #23780。
  • openEuler相关产物同样标注为DISABLED,链接指向PR #23705。
  • Snapdragon的Linux与Android包附带单独的设置指南链接。

信息来源

llama.cpp Releases原始来源