开源llama.cpp Releases·原文 2026年11月3日

llama.cpp b12053:ggml在所有Apple平台改用vm_allocate分配内存

该版本将iOS上的改动扩展到全部Apple平台,由posix_memalign改为vm_allocate,并默认运行test-host-buffer-release测试;同时发布macOS、iOS、Linux、Android、Windows等多平台预编译包。

llama.cpp发布b12053版本。发布说明列出的主要代码变更是:ggml在所有Apple平台上使用vm_allocate替代posix_memalign(PR #31437)。说明中写道,该改动最初针对iOS引入,之后扩展到全部Apple平台,并默认运行test-host-buffer-release测试。

Apple平台的内存分配改动

根据发布说明,b12053的提交信息为“ggml : use vm_allocate instead of posix_memalign on all Apple platforms”,对应PR #31437。提交记录中的两条要点分别是:在iOS上使用vm_allocate,以及在所有Apple平台使用vm_allocate,并默认运行test-host-buffer-release。

发布说明没有提供这一改动对内存占用、分配速度或运行性能的实测结果。

随版本发布的各平台构建

b12053同时提供多个平台的预编译产物。Apple平台包括macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;macOS Apple Silicon的KleidiAI启用版本标记为DISABLED。

Linux方面提供Ubuntu x64、arm64、s390x的CPU构建,Ubuntu 26.04 s390x及其zDNN构建,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等后端版本。

Android提供arm64 CPU构建,以及面向骁龙的CPU、Adreno GPU、Hexagon NPU构建。Windows提供x64/arm64 CPU、OpenCL Adreno、CUDA 12.4、CUDA 13.4(含arm64)、Vulkan、OpenVINO、SYCL和ROCm 10.0等构建。openEuler相关构建在本版本中标记为DISABLED。

信息来源

llama.cpp Releases原始来源