开源llama.cpp Releases·原文 2026年10月28日

llama.cpp b11938加入LiquidAI LFM3-1.7B与LFM3-VL-2B模型支持

该版本由代号 #31252 的合并请求引入两个LiquidAI模型,并针对LFM3补上recurrent state回滚、测试基线与量化时保留F32的卷积核处理。

llama.cpp发布b11938版本,通过代号 #31252 的合并请求新增对LiquidAI/LFM3-1.7B和LiquidAI/LFM3-VL-2B两个模型的支持。发布记录列出了代码改动清单及各平台预编译包的下载链接。

本次合入的模型与配套改动

根据发布说明,该合并请求由Sigbjørn Skjæret和Xuan-Son Nguyen共同提交,Tarek Dakhran参与了评审建议的批处理应用。提交记录中多处标注“Assisted-by: Claude Opus 5.5”。

除模型注册本身,改动还覆盖测试与推理状态管理:为LFM3测试模型设置SWA rope base,为LFM3启用recurrent state回滚,新增LFM3的Metal fusion基线测试,并对齐gguf-py中lfm3vl的映射注释、修复评审建议带入的CRLF行尾问题。

  • 新增模型:LiquidAI/LFM3-1.7B、LiquidAI/LFM3-VL-2B
  • 为LFM3启用recurrent state回滚
  • 新增LFM3 Metal fusion基线测试

量化时的精度处理

发布说明提到一项面向量化的限制:LFM3-VL的depthwise conv卷积核在量化过程中保持F32精度,不随其他权重一起降精度。发布记录未说明该处理对最终模型体积或推理速度的影响。

预编译包覆盖范围

b11938提供macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm)以及UI包。

发布说明中macOS Apple Silicon的KleidiAI版本和openEuler构建标注为DISABLED,并附有对应PR链接。

  • CUDA提供 12 和 13 两条版本线,均附带单独库包
  • Snapdragon平台在Linux与Android上均提供CPU、Adreno GPU、Hexagon NPU支持

信息来源

llama.cpp Releases原始来源