llama.cpp b11786:CPU后端改用无FP16查表方式计算f32 gelu_quick与geglu_quick
llama.cpp发布b11786版本,ggml-cpu的改动让f32的gelu_quick和geglu_quick不再依赖FP16查表,同时保留原有GGML_GELU_QUICK_FP16表路径,并新增VXE gelu_quick路径与f32 CPU kernel测试。
AI解读:llama.cpp发布b11786版本,核心改动位于ggml-cpu后端:f32的gelu_quick和geglu_quick改为直接计算,不再使用FP16查表。
改动说明列出四项内容:移除f32路径对FP16表的依赖、保留GGML_GELU_QUICK_FP16表路径、新增VXE gelu_quick路径、为f32 CPU kernel增加test-gelu-quick测试。
测试改动中明确将inf/nan输入从test-gelu-quick中移除。
该版本按原有发布节奏提供macOS/iOS、Linux、Android、Windows等平台预编译包,涵盖CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL等后端;macOS Apple Silicon的KleidiAI版本与openEuler构建处于DISABLED状态。
llama.cpp发布b11786版本。根据发布说明,ggml-cpu后端的改动让f32的gelu_quick与geglu_quick不再通过FP16查表计算(对应 #30737)。
本次改动涉及的kernel与路径
发布说明以条目形式列出改动:f32 gelu_quick和geglu_quick改为不使用fp16表进行计算;同时保留GGML_GELU_QUICK_FP16表路径;新增VXE gelu_quick路径;并为f32 CPU kernel增加test-gelu-quick测试。测试部分还注明,从test-gelu-quick中移除inf/nan输入。
- f32 gelu_quick、geglu_quick:不再依赖fp16查表
- GGML_GELU_QUICK_FP16表路径:保留
- 新增VXE gelu_quick路径
- 新增test-gelu-quick,用于f32 CPU kernel;测试移除inf/nan输入
发布包覆盖范围
b11786的发布页按平台列出预编译产物,包括macOS Apple Silicon(arm64)与Intel(x64)、iOS XCFramework、Ubuntu(x64/arm64/s390x的CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO 2026.4.1、SYCL FP32/FP16)、Linux arm64 Snapdragon(CPU、Adreno GPU、Hexagon NPU)、Android arm64、Windows(CPU、OpenCL Adreno、CUDA 12.4/13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0)以及UI。
- macOS Apple Silicon的KleidiAI版本标注为DISABLED
- openEuler构建标注为DISABLED
- Windows与Ubuntu提供CUDA 12和CUDA 13两套构建