llama.cpp发布b11696:修正Hexagon HMX注意力sink,并在HMX内核中向量化
llama.cpp版本b11696的更新说明显示,该版本包含一个Hexagon相关改动:修正HMX FA sinks,并在HMX内核中向量化sinks,由Max Krasnyansky参与合著。
AI解读:本次新增信息是一个代码提交和对应构建版本b11696,改动标题为“hexagon: correct HMX FA sinks (#30581)”。
提交说明列出两项动作:修正HMX FA sinks,以及在HMX内核中向量化sinks。合著者署名为Max Krasnyansky。
发布页按平台列出下载构建,包括macOS/iOS、Linux、Android、Windows和UI产物,其中Snapdragon相关包标注包含CPU、Adreno GPU与Hexagon NPU。
发布页没有给出性能数据、精度对比或受影响模型范围,因此无法从该来源判断该修正对推理结果或速度的具体影响。
llama.cpp发布b11696,更新说明中的代码提交为“hexagon: correct HMX FA sinks (#30581)”,提交信息写明两项改动:修正HMX FA sinks,并在HMX内核中向量化sinks。该提交合著者署名为Max Krasnyansky。
提交内容与适用范围
发布页将b11696与提交 #30581 关联。提交标题为“hexagon: correct HMX FA sinks”,正文列出修正HMX FA sinks和hex-fa: vectorize sinks in hmx kernels两条说明。
改动位于hexagon相关代码路径。发布页同时提供Snapdragon专用构建,描述为包含CPU、Adreno GPU和Hexagon NPU,涉及Linux arm64与Android arm64两个包,并链接到对应的Snapdragon后端设置指南。
- 提交编号:#30581
- 提交标题:hexagon: correct HMX FA sinks
- 提交说明第一条:hexagon: correct HMX FA sinks
- 提交说明第二条:hex-fa: vectorize sinks in hmx kernels
- 合著者:Max Krasnyansky
构建产物
发布页按平台列出构建文件。macOS/iOS提供Apple Silicon arm64、Intel x64和iOS XCFramework;其中macOS Apple Silicon(arm64,启用KleidiAI)标注为DISABLED。
Linux提供Ubuntu x64/arm64/s390x CPU构建,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16构建;另有Linux arm64 Snapdragon包,涵盖CPU、Adreno GPU与Hexagon NPU。
Android提供arm64 CPU和arm64 Snapdragon包;Windows提供CPU、OpenCL Adreno、CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0等x64/arm64构建。openEuler相关构建标注为DISABLED。UI单独提供tar.gz包。