llama.cpp b11623发布:AMD平台改用SIMT隐式GEMM conv2d,绕过WMMA
llama.cpp发布b11623构建版,CUDA后端针对AMD设备改用不依赖WMMA的SIMT隐式GEMM conv2d,并在短归约场景下跳过该实现。
llama.cpp发布b11623构建版本,CUDA后端在AMD平台上改用SIMT隐式GEMM conv2d实现,不再依赖WMMA(#30325)。
b11623的CUDA后端改动
版本b11623的提交标题为「cuda : use SIMT implicit GEMM conv2d on AMD without WMMA (#30325)」。提交说明列出三点:在AMD上使用不依赖WMMA的SIMT隐式GEMM conv2d;更新conv2d SIMT注释;在AMD上对短归约跳过SIMT conv2d。
- 改动位置:CUDA后端conv2d实现,针对AMD设备。
- 实现方式:SIMT隐式GEMM,不使用WMMA。
- 附加条件:短归约场景下跳过SIMT conv2d。
- 署名:Co-authored-by: thelittlefireman;Assisted-by: Claude Opus。
发布包覆盖范围
发布页列出b11623的预编译产物,覆盖macOS Apple Silicon(arm64)与macOS Intel(x64)、iOS XCFramework、Ubuntu(x64、arm64、s390x,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16变体)、Linux arm64 Snapdragon、Android arm64、Windows(CPU、CUDA 12.4/13.4、Vulkan、OpenCL Adreno、OpenVINO、SYCL、ROCm 10.0)以及UI包。
- macOS Apple Silicon的KleidiAI enabled版本标注为DISABLED(#23780)。
- openEuler全部条目标注为DISABLED(#23705),列出x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph。
- 来源未给出各构建包与本次CUDA改动的对应关系,也未提供性能数据或适用硬件型号清单。