llama.cpp发布b11532:ModernBERT编码器改用精确GELU
该版本的主要代码变更集中在GELU激活函数处理上:ModernBERT编码器改用精确GELU,tanh GELU别名保留在ggml_geglu上,gelu_python映射到ggml_geglu_erf;发布说明还列出各平台预编译包的下载地址。
AI解读:llama.cpp发布b11532版本,代码变更来自合并请求 #30108,标题为“model : use exact GELU for ModernBERT encoders”。
变更包含三项:ModernBERT编码器使用精确GELU;保留tanh GELU别名于ggml_geglu;将gelu_python映射到ggml_geglu_erf。
发布说明标注了Assisted-by: Codex和Assisted-by: Claude Opus 5.5,说明这些改动有AI工具参与协助。
来源未给出该变更对模型精度、速度或内存占用的量化结果,因此无法判断实际效果差异。
macOS Apple Silicon上的KleidiAI加速构建标注为DISABLED,并链接到PR #23780;openEuler相关构建同样标注为DISABLED,链接到PR #23705。
llama.cpp发布b11532版本,主要代码改动为ModernBERT编码器改用精确GELU,该改动来自合并请求 #30108。
同一请求还调整了GELU相关映射:tanh GELU别名保留在ggml_geglu上,gelu_python映射到ggml_geglu_erf。
发布说明在改动条目下标注Assisted-by: Codex与Assisted-by: Claude Opus 5.5。
b11532的代码改动
根据发布说明,合并请求 #30108 的内容为“model : use exact GELU for ModernBERT encoders”。具体条目包括:ModernBERT编码器使用精确GELU;tanh GELU别名保留在ggml_geglu上;gelu_python映射到ggml_geglu_erf。
这些条目在发布说明中被标记为有AI工具协助完成。
- ModernBERT编码器改用精确GELU
- tanh GELU别名保留在ggml_geglu上
- gelu_python映射到ggml_geglu_erf
预编译包与平台状态
发布页按平台列出可下载的预编译包,覆盖macOS、iOS、Linux、Android和Windows,并包含CPU、Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL、OpenCL Adreno以及Snapdragon的CPU/Adreno GPU/Hexagon NPU等构建。
其中macOS Apple Silicon(arm64)启用KleidiAI的构建标注为DISABLED,并链接到PR #23780;openEuler系列构建同样标注为DISABLED,链接到PR #23705。
- macOS:arm64、x64与iOS XCFramework;KleidiAI启用版标注DISABLED
- Linux:Ubuntu x64/arm64/s390x CPU,以及Vulkan、CUDA 12.8、CUDA 13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16等构建
- Android:arm64 CPU与Snapdragon(CPU、Adreno GPU、Hexagon NPU)
- Windows:x64/arm64 CPU,以及CUDA 12.4、CUDA 13.4、Vulkan、OpenVINO、SYCL、ROCm 10.0、OpenCL Adreno等构建
- openEuler x86/aarch64的 310p与 910b(ACL Graph)构建标注DISABLED
读者需要弄清的一点
这次改动的适用范围是ModernBERT编码器的GELU计算路径,以及ggml侧GELU别名的映射方式。发布说明没有提供精度、速度或内存的对比数据,所以“精确GELU”带来的实际影响目前只能以合并请求描述为准,不能推断为性能或效果改善。
对使用预编译包的用户,发布页同时列出了各平台产物;其中KleidiAI版macOS arm64构建和openEuler构建处于禁用状态,需要按对应PR链接确认后续状态。