开源llama.cpp Releases·原文 2026年10月19日

llama.cpp b11731发布:ggml-cpu对SiLU与expf做向量化

llama.cpp发布b11731版本,唯一列出的代码变更是ggml-cpu中ggml_v_silu和ggml_v_expf的向量化(#30791),作者署名Aaron Teo;仓库同步提供多平台预编译包。

AI解读:这条记录属于CPU后端(ggml-cpu)的算子实现调整。发布说明没有给出该项改动的性能数据、精度对比或受影响模型清单。

b11731同时提供macOS/iOS、Linux、Android、Windows的预编译包,涵盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL以及Snapdragon的CPU/Adreno GPU/Hexagon NPU构建。

发布说明中标注为DISABLED的条目包括macOS Apple Silicon的KleidiAI构建和openEuler构建;这两类构建在本次版本中未提供可用下载。

读者若要判断这次向量化是否影响自己的使用,需要区分场景:它改的是ggml-cpu路径,只在使用CPU后端执行相应算子时相关;GPU后端构建是否受益,发布说明未作说明。

llama.cpp发布b11731版本。发布说明列出的代码变更为:在ggml-cpu中向量化ggml_v_silu与ggml_v_expf(PR #30791),署名Aaron Teo。发布说明没有随附该改动的性能或精度数据。

改动内容与归属

b11731的发布记录只有一条代码变更条目:ggml-cpu对ggml_v_silu和ggml_v_expf做向量化,合并请求编号 #30791,签署人Aaron Teo。

这两个函数位于ggml-cpu,即项目自带的CPU后端算子层。发布说明未说明向量化覆盖哪些指令集、是否按架构分派,也未给出基准测试结果。

  • 变更对象:ggml_v_silu、ggml_v_expf
  • 所在模块:ggml-cpu
  • PR编号:#30791
  • 署名:Aaron Teo

同版本提供的构建

与代码变更一同发布的还有各平台预编译包,覆盖macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x)以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16变体;Android提供arm64的CPU包与Snapdragon(CPU、Adreno GPU、Hexagon NPU)包;Windows提供CPU、OpenCL Adreno arm64、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0构建,另有UI包。

发布说明把macOS Apple Silicon的KleidiAI构建标为DISABLED,并链接到PR #23780;openEuler的多个构建(x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph)同样标为DISABLED,链接到PR #23705。

  • CUDA版本:12.8(Ubuntu)、12.4 与 13.4(Windows)、13.4(Ubuntu arm64)
  • 其他后端:Vulkan、ROCm 10.0、OpenVINO 2026.4.1、SYCL
  • 移动端:iOS XCFramework、Android arm64、Snapdragon三单元构建
  • 本次不可用:KleidiAI版macOS arm64构建、openEuler各构建

信息来源

llama.cpp Releases原始来源