llama.cpp发布b12096,为Hexagon后端新增TOP_K_MASK算子
该版本在Hexagon后端加入TOP_K_MASK算子(PR #31552),提交说明称同时简化了Hexagon内核,并避免重复主机配置;版本页并列出各平台预编译包,其中部分构建被标记为DISABLED。
llama.cpp发布b12096版本,变更内容为在Hexagon后端新增TOP_K_MASK算子,对应PR #31552。
提交说明称,本次改动另外包含简化Hexagon的TOP_K_MASK内核,且不重复主机侧配置。
b12096的Hexagon变更
发布页把本版内容概括为“hexagon: add TOP_K_MASK op (#31552)”,并列出两条提交要点:一是新增Hexagon的TOP_K_MASK算子,二是简化该内核并避免重复主机配置。
来源没有说明该算子此前在Hexagon后端缺失会造成什么影响,也未给出性能对比或测试结果。
- 变更项:Hexagon后端新增TOP_K_MASK算子
- 对应PR:#31552
- 附带改动:简化Hexagon TOP_K_MASK内核,不重复主机配置
发布页列出的平台产物
版本页按平台列出预编译包,覆盖macOS/iOS、Linux、Android、Windows和UI。Linux侧包含CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等构建;Windows侧包含CPU、CUDA、Vulkan、OpenVINO、SYCL、ROCm等构建。
页面同时标注了两个DISABLED项:macOS Apple Silicon的KleidiAI启用版本,以及openEuler构建。Snapdragon相关包标注为CPU、Adreno GPU与Hexagon NPU组合,并附有安装指南链接。
- macOS/iOS:Apple Silicon(arm64)、Intel(x64)、iOS XCFramework
- Linux:x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL
- Android:arm64 CPU,以及Snapdragon(CPU、Adreno GPU、Hexagon NPU)
- Windows:CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0
- 标记为DISABLED:macOS Apple Silicon KleidiAI启用版、openEuler构建