开源llama.cpp Releases·原文 2026年10月30日

llama.cpp发布b12003版本,修复SYCL后端FLASH_ATTN_EXT失败问题

llama.cpp发布b12003构建版本,变更说明中唯一列出的改动是修复SYCL后端的FLASH_ATTN_EXT失败问题(#30761),同时提供macOS、Linux、Windows、Android等多平台预编译包。

AI解读:本次需要弄清的是:这个版本改了什么,以及哪些用户应该更换预编译包。发布说明中列出的代码改动只有一项——“sycl: FLASH_ATTN_EXT failures (#30761)”。从字面看,它针对的是SYCL后端中FLASH_ATTN_EXT相关的失败问题,具体触发条件与影响范围在发布说明里没有展开。

发布页同时列出了各平台预编译产物,覆盖macOS Apple Silicon与Intel、iOS XCFramework,Linux下的Ubuntu x64/arm64/s390x,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16、Snapdragon(CPU/Adreno GPU/Hexagon NPU)等构建,另有Android、Windows和UI包。

发布说明中有两项被标注为DISABLED:macOS Apple Silicon的KleidiAI启用版本(关联PR #23780)和openEuler构建(关联PR #23705)。因此,本次实际可获取的是未启用KleidiAI的macOS arm64包,openEuler用户没有对应的新构建。

使用SYCL后端并遇到FLASH_ATTN_EXT相关失败的用户,可以按发布页所列的Ubuntu x64 SYCL FP32/FP16或Windows x64 SYCL包进行对应替换;发布说明未给出该修复的验证细节或受影响设备列表,其他后端用户是否受益无法从本条发布信息判断。

llama.cpp发布b12003构建版本。发布说明中列出的代码改动为“sycl: FLASH_ATTN_EXT failures (#30761)”,即处理SYCL后端中FLASH_ATTN_EXT的失败问题。

该发布页照例附带各平台预编译产物与源码构建入口,覆盖macOS、iOS、Linux、Android、Windows及UI包。

b12003列出的改动与预编译包

发布说明的变更项只有一条:修复SYCL后端FLASH_ATTN_EXT failures,关联PR编号 #30761。说明未进一步描述失败现象、触发条件或验证方式。

预编译产物按平台分布:macOS提供Apple Silicon(arm64)与Intel(x64)包以及iOS XCFramework;Linux提供Ubuntu x64、arm64、s390x的CPU包,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16等构建,另有Linux arm64 Snapdragon包(CPU、Adreno GPU、Hexagon NPU)。

Windows侧提供x64/arm64 CPU、OpenCL Adreno arm64、CUDA 12.4与CUDA 13.4、Vulkan、OpenVINO 2026.4.1、SYCL x64、ROCm 10.0等包;Android提供arm64 CPU与Snapdragon包;此外还有独立的UI包。

被标注DISABLED的两项

发布页将macOS Apple Silicon的KleidiAI启用版本标注为DISABLED,并链接到PR #23780;openEuler的x86与aarch64构建(含 310p、910b ACL Graph)同样标注DISABLED,链接到PR #23705。

这意味着本次可获取的macOS arm64包为未启用KleidiAI的常规版本,openEuler用户没有对应的b12003预编译构建。

信息来源

llama.cpp Releases原始来源