开源llama.cpp Releases·原文 2026年10月16日

llama.cpp发布b11688:CPU路径将AVX2分块累加器合并处理

llama.cpp版本b11688的变更条目显示,一次CPU侧改动将AVX2分块累加器合并归约,对应PR #30296,并标注Assisted-by: Codex。该版本同时照例提供多平台预编译产物。

AI解读:读者最需要弄清的是这次改动的作用范围:条目文字为“cpu: reduce AVX2 tiled accumulators together”,落在CPU执行路径与AVX2指令集上,属于分块累加器归约方式的变化,不涉及GPU后端或其他指令集路径。

该版本号为b11688,对应PR #30296,变更说明中带有“Assisted-by: Codex”标注,即提交信息注明有Codex参与辅助。

来源只给出了变更标题与发布产物清单,没有提供性能对比、基准测试数字或适用范围说明,因此无法据此推断提速幅度或对哪些模型、哪些CPU型号有效。

b11688仍按惯例发布多平台构建产物,覆盖macOS/iOS、Linux、Android和Windows,包含CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL及骁龙CPU/GPU/NPU等后端。

其中macOS Apple Silicon的KleidiAI构建与openEuler构建标注为DISABLED(分别指向PR #23780 和PR #23705)。

llama.cpp发布b11688版本,发布说明中的变更条目为“cpu : reduce AVX2 tiled accumulators together (#30296)”,并附有“Assisted-by: Codex”标注。该条目指向CPU执行路径中AVX2分块累加器的合并归约处理。

除代码变更外,该版本照例提供面向macOS/iOS、Linux、Android、Windows的预编译包,并包含Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL及骁龙平台等后端构建。

b11688的改动条目写了什么

发布说明列出的唯一代码变更条目为“cpu : reduce AVX2 tiled accumulators together”,关联PR #30296。条目文字指向CPU路径下AVX2分块累加器的合并归约,未说明具体改动文件或实现细节。

该条目标注“Assisted-by: Codex”,即发布说明中注明Codex参与了辅助。发布方未就此提供进一步的说明或验证信息。

  • 版本号:b11688
  • 变更条目:cpu : reduce AVX2 tiled accumulators together
  • 对应PR:#30296
  • 标注:Assisted-by: Codex

可获取的构建产物范围

b11688提供macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS XCFramework;Linux侧提供Ubuntu x64/arm64/s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16构建,另有Linux arm64骁龙(CPU、Adreno GPU、Hexagon NPU)包。

Android侧提供arm64 CPU包与骁龙(CPU、Adreno GPU、Hexagon NPU)包;Windows侧提供x64/arm64 CPU、arm64 OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO 2026.4.1、SYCL、ROCm 10.0构建。

  • macOS Apple Silicon(arm64,KleidiAI enabled):DISABLED,指向PR #23780
  • openEuler(x86/aarch64的 310p、910b ACL Graph):DISABLED,指向PR #23705
  • UI包单独提供(llama-b11688-ui.tar.gz)

来源没有给出的信息

发布说明只列出变更标题与产物链接,没有基准测试数据、性能对比、适用CPU型号或对推理速度影响的量化描述。因此无法从该来源判断这次归约方式调整带来的实际变化。

同样,该来源也未说明改动是否会应用到非AVX2的CPU路径或其他后端。

信息来源

llama.cpp Releases原始来源