llama.cpp b11512修复DFlash输出头共享问题
llama.cpp发布b11512版本,主要修复合入PR #30111 的DFlash输出头共享问题:从GGUF metadata读取tied输出权重、共享tied词嵌入metadata,并移除DFlash嵌入头fallback。
llama.cpp发布b11512版本,主要变更是修复合入PR #30111 的DFlash输出头共享问题。
该补丁包含四项改动:修复DFlash输出头共享;从GGUF metadata读取tied输出权重;共享tied词嵌入metadata;移除DFlash嵌入头fallback。
补丁内容与提交信息
发布说明将本次版本的核心变更列为“model : fix DFlash output head sharing (#30111)”,下含四条提交。发布页面中每条提交均标注“Assisted-by: Codex”。
- 修复DFlash输出头共享(llama)
- 从GGUF metadata读取tied输出权重(dflash)
- 共享tied词嵌入metadata(llama)
- 移除DFlash嵌入头fallback(llama)
随版本提供的预编译产物
b11512发布页附带多平台二进制包。macOS/iOS包括macOS Apple Silicon(arm64)、macOS Intel(x64)和iOS XCFramework;其中macOS Apple Silicon(arm64,启用KleidiAI)标记为DISABLED,并链接到PR #23780。
Linux覆盖Ubuntu x64/arm64/s390x的CPU构建,以及Vulkan、CUDA 12、CUDA 13、ROCm 10.0、OpenVINO、SYCL FP32/FP16等后端,并单独提供CUDA 12.8与CUDA 13.4运行库;另有面向Snapdragon的arm64包,包含CPU、Adreno GPU、Hexagon NPU,并附setup guide。
Android提供arm64 CPU包和arm64 Snapdragon包(CPU、Adreno GPU、Hexagon NPU),同样附setup guide。
Windows提供x64/arm64 CPU包、arm64 OpenCL Adreno包,以及CUDA 12、CUDA 13、Vulkan、OpenVINO、SYCL、ROCm 10.0等后端包,CUDA 12.4与CUDA 13.4运行库也单独列出。openEuler相关条目(x86 310p、x86 910b ACL Graph、aarch64 310p、aarch64 910b ACL Graph)标记为DISABLED,链接到PR #23705。另有独立的UI包。
发布页未给出性能、精度或回归测试数据,因此本次修复的实际运行影响范围需由使用方在对应模型与后端上自行验证。