llama.cpp发布b11690构建:ngram缓存改为按引用读取
该版本唯一列出的代码变更是common模块读取ngram缓存分片时不再复制;发布页同时提供macOS、Linux、Windows、Android与openEuler的多后端预编译包,其中KleidiAI、openEuler与部分平台仍标记为DISABLED。
llama.cpp发布b11690版本。发布说明中唯一的代码变更条目为:common模块读取ngram缓存分片时改为按引用读取,不再复制(PR #30061)。该条目未附基准测试或效果数据。
ngram缓存读取改动
发布说明把b11690的代码变更记为“common : read ngram cache parts by reference instead of copying (#30061)”,即common模块在读取ngram缓存分片时改为按引用方式读取,而不是复制。改动范围限于common模块内ngram缓存的读取路径。
该版本提供的预编译包
发布页按平台列出可下载的构建产物。macOS/iOS包括Apple Silicon arm64、Intel x64和iOS XCFramework;其中Apple Silicon的KleidiAI启用版本标记为DISABLED。Linux覆盖Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12(12.8 库)、CUDA 13(13.4 库,含arm64)、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16,以及Linux arm64的Snapdragon(CPU、Adreno GPU、Hexagon NPU)并附设置指南。
Android提供arm64 CPU和arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)两种包,Snapdragon版本附设置指南。Windows覆盖x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64与对应DLL)、Vulkan、OpenVINO 2026.4.1、SYCL和ROCm 10.0。openEuler条目整体标记为DISABLED,其下x86 310p、x86 910b(ACL Graph)、aarch64 310p、aarch64 910b(ACL Graph) 均未提供可用链接。发布页另提供UI包。
- KleidiAI启用的macOS Apple Silicon构建、openEuler全部条目以及发布页中Website、Attestations两栏均为空或DISABLED。
- 发布说明没有说明b11690相对上一版本的行为变化,也没有披露适用模型规模、内存收益或速度变化。