开源llama.cpp Releases·原文 2026年10月10日

llama.cpp b11533修复Adreno A6X GPU的OpenCL内核编译问题

该版本针对搭载Adreno 623(E031.50.31.01)的物联网设备跳过会触发着色器编译器崩溃的kernel_cpy_f32_f32_pack,为GEMV内核加入get_local_size常量折叠变通方案,并把Adreno 623加入A6X检测列表。

AI解读:llama.cpp发布b11533版本,本次更新集中修复OpenCL在A6X GPU上的内核编译问题,改动以提交 #30176 的形式合入。

发布说明称,物联网设备中A623所配的A6x编译器后端(E031.50.31.01)无法处理参数数量较多的内核,因此对A6x跳过kernel_cpy_f32_f32_pack以避免编译器崩溃。

同一提交还为GEMV内核中的get_local_size提供A6X常量折叠变通方案,并将Adreno 623加入A6X GPU检测列表。

随版本一并提供了各平台预编译包,包括macOS/iOS、Ubuntu、Android与Windows的CPU、CUDA、Vulkan、SYCL、ROCm、OpenVINO等构建,以及面向Snapdragon的CPU、Adreno GPU、Hexagon NPU组合包。

发布说明未给出性能提升或修复效果的量化数据,仅描述为避免崩溃所作的跳过与变通处理。

llama.cpp发布b11533版本,变更内容为修复A6X GPU上的OpenCL内核编译问题,对应提交 #30176。

针对A6X的三处改动

根据发布说明,本次改动包括:在A6X上跳过kernel_cpy_f32_f32_pack,以避免着色器编译器崩溃;为GEMV内核中的get_local_size提供A6X常量折叠变通方案;把Adreno 623加入A6X GPU检测列表。

  • 跳过kernel_cpy_f32_f32_pack:发布说明称A6x编译器后端无法处理参数数量较多的内核,跳过以免编译器崩溃。
  • GEMV内核变通:对get_local_size做A6X常量折叠处理。
  • 检测列表更新:新增Adreno 623。

适用设备与发布包

发布说明描述的场景是搭载a623、编译器版本为E031.50.31.01的物联网设备。随版本发布的预编译包覆盖macOS(Apple Silicon arm64、Intel x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x,含Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL FP32/FP16等构建)、Android arm64(含Snapdragon的CPU、Adreno GPU、Hexagon NPU组合)、Windows(x64/arm64,含CUDA、Vulkan、OpenVINO、SYCL、ROCm,以及OpenCL Adreno arm64包),另有UI包。发布说明中macOS Apple Silicon的KleidiAI构建与openEuler相关构建标注为DISABLED。

信息来源

llama.cpp Releases原始来源