开源llama.cpp Releases·原文 2026年11月4日

llama.cpp发布b12088构建,启用NVFP4格式的LFM3 GGUF模型

llama.cpp发布版本号b12088,变更说明为启用NVFP4量化的LFM3 GGUF模型(PR #31608),同时提供覆盖macOS、Linux、Windows、Android的预编译包。

AI解读:本次要弄清的是:这一版本改变的是模型支持的格式范围。变更说明写的是“enable NVFP4 LFM3 ggufs”,即让llama.cpp能加载采用NVFP4量化的LFM3 GGUF模型,并非对推理速度或精度的评测结论。

适用对象是使用这类量化格式模型文件的人。发布页按平台列出macOS(arm64、x64)、Linux(含CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO等)、Windows、Android以及Snapdragon的CPU/GPU/NPU预编译包。

部分构建被标注为DISABLED,包括启用KleidiAI的macOS arm64版本和openEuler相关构建;这些条目在发布页上链接到对应PR,没有说明恢复时间。

来源未给出NVFP4 LFM3模型的速度、显存占用或精度对比数据,因此无法据此推断量化后的实际表现。

llama.cpp发布b12088版本,变更说明为“model : enable NVFP4 LFM3 ggufs (#31608)”,即支持加载NVFP4量化的LFM3 GGUF模型。

发布页同时提供各平台预编译包,涵盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu x64/arm64/s390x、CUDA 12.8与 13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO、Windows x64/arm64、Android arm64以及Snapdragon的CPU、Adreno GPU、Hexagon NPU版本,并附UI包。

b12088的模型格式变更与构建状态

该版本唯一列出的功能变更是启用NVFP4 LFM3 GGUF模型支持,对应PR #31608。发布说明由github-actions[bot] 发布,未给出该变更的性能或精度说明。

构建列表中,macOS Apple Silicon的KleidiAI版本和openEuler的多个构建被标记为DISABLED,并链接到PR #23780、#23705;发布页未说明原因或恢复计划。

  • 版本号:b12088
  • 变更:enable NVFP4 LFM3 ggufs(#31608)
  • 被禁用构建:macOS arm64 KleidiAI、openEuler x86/aarch64(310p、910b ACL Graph)
  • 发布方:llama.cpp Releases(ggml-org)

信息来源

llama.cpp Releases原始来源