llama.cpp b12243为Alchemist在head_dim=64 时解除oneDNN融合SDPA限制
llama.cpp发布构建b12243,唯一代码变更来自PR #31574:在SYCL后端中,为Intel Alchemist显卡在head_dim=64 条件下解除对oneDNN融合SDPA的限制。
AI解读:改动范围限于SYCL后端与Intel Alchemist硬件,触发条件是head_dim=64;来源未说明其他head_dim取值或其他GPU是否受影响。
发布页同时列出各平台预编译包,包括Linux、Windows的SYCL x64构建,以及CUDA、ROCm、Vulkan、OpenVINO、Snapdragon等后端;这些属于常规发布产物,并非本次改动内容。
来源未给出性能数据或基准测试结果,因此无法据此判断该解禁带来多大提速。
部分构建在发布页标注为DISABLED,包括启用KleidiAI的macOS Apple Silicon构建与openEuler相关构建。
llama.cpp发布构建b12243。发布说明中唯一的代码变更是一条SYCL后端改动:为Intel Alchemist在head_dim=64 时解除对oneDNN融合SDPA的限制(un-gate),对应PR #31574,共同署名为Titaniumtown。
改动内容与适用条件
变更标题为“sycl: un-gate oneDNN fused SDPA for Alchemist at head_dim=64 (#31574)”。从措辞看,此前该路径在Alchemist上处于被限制(gate)状态,本次改动将其放开。
适用范围由标题明确限定为SYCL后端、Intel Alchemist硬件,以及head_dim=64 这一维度条件。来源未说明head_dim取其他值时是否仍受限。
- PR编号:#31574
- 共同署名:Titaniumtown
- 后端:SYCL
- 硬件:Intel Alchemist
- 条件:head_dim=64
发布产物
发布页按平台列出预编译包,涵盖macOS/iOS、Linux、Android、Windows与openEuler,后端包括CPU、CUDA 12与 13、ROCm 10.0、Vulkan、OpenVINO 2026.4.1、SYCL(FP32/FP16)以及Snapdragon的CPU/Adreno GPU/Hexagon NPU组合,另附UI包。
- Windows与Ubuntu均提供x64 SYCL构建
- 部分条目标注DISABLED:启用KleidiAI的macOS Apple Silicon构建、openEuler各项构建
尚缺的信息
来源没有提供该解禁的基准测试或性能对比数据,也没有说明对哪些模型或量化格式实际生效。