开源llama.cpp Releases·原文 2026年10月27日本站收录 2026年10月28日

llama.cpp b11934发布:测试中张量数据生成与模型保存提速

该版本合并PR #31145,重构save_models以仅创建模型、不再创建保存时不需要的llama_context,并改用splitmix64+Box-Muller生成正态分布随机数;保存日志会输出每个模型的文件大小。

AI解读:llama.cpp发布b11934版本,主要变更来自PR #31145,主题是加快测试中的张量数据生成和模型保存。

变更之一是将save_models重构为只创建模型,不再创建保存过程中不需要的llama_context。

随机数生成方式由较慢的std::normal_distribution抽取改为splitmix64加Box-Muller实现;随后又改为先用std::mt19937与std::normal_distribution生成一次正态抽样池,各张量复制其中一段循环切片,按名称选切片以保持抽样确定性。

保存模型后会记录产物文件大小,以字节和MB报告,并将模型名、目标与大小合并为每个已保存模型一行日志。

该版本同时提供macOS/iOS、Linux、Android、Windows等多平台预编译包;openEuler与启用KleidiAI的macOS Apple Silicon构建标注为DISABLED。

llama.cpp发布b11934版本,合并PR #31145,改动集中在测试环节:加快张量数据生成与模型保存。

提交说明称,save_models被重构为只创建模型,不再创建保存时不需要的llama_context;随机数生成从较慢的std::normal_distribution抽取改为splitmix64加Box-Muller生成器。之后又改为用std::mt19937和std::normal_distribution一次性生成正态抽样池,每个张量复制一段循环切片,按名称选切片以保持抽样确定性。

保存后会记录产物文件大小(字节和MB),每个已保存模型的模型名、目标与大小合并为一行日志。上述改动由提交信息中的Assisted-by标注为DeepSeek-V4-Flash-Vision-Exp-GGUF(Mac Studio,M2 Ultra,192GB)协助。

发布物覆盖的平台

b11934的发布页列出macOS Apple Silicon与Intel、iOS XCFramework、Ubuntu(CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16)、Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm、OpenCL Adreno)以及UI包。

  • macOS Apple Silicon的KleidiAI启用构建标注为DISABLED
  • openEuler的x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph构建标注为DISABLED

信息来源

llama.cpp Releases原始来源