该版本分别修复了 2.1.290 中云会话可能丢失权限提示回答、以及 2.1.288 中退出时可能丢失会话末尾消息的问题。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
Mistral发布Mistral Large 4公开预览:1 万亿参数原生多模态,权重月底开源
Mistral称ML4是迄今最大最强的模型,已在Mistral Studio提供预览API,权重将于本月底发布;训练使用 3,800 块NVIDIA Grace Blackwell GPU,在Mistral自有的欧洲数据中心完成。
阅读全文Claude Code v2.1.290发布:新增serverToolUses等插件钩子字段,修复大量会话与权限问题
Claude Code发布v2.1.290,为插件与mod钩子新增serverToolUses、agentId、ceiling等字段,并集中修复长时间会话、权限检查、后台会话及Windows/macOS平台上的多项问题。
阅读全文ComfyUI发布v0.39.0:新增 --offline与 --disable-partner-nodes,弃用 --disable-api-nodes
该版本由ComfyUI官方仓库发布,改动涵盖视频编码默认质量、EXR 16位浮点、多个Partner Nodes模型接入,以及一批资源扫描与数据库锁相关修复。
llama.cpp b11430为Hexagon后端加入FA按KV头切分,Qwen3-0.6B预填充吞吐提升 58%
llama.cpp发布b11430,Hexagon后端的flash_attn在row-split多核模式下改为按KV头切分,避免每个核心读取完整KV cache;维护方给出的 4 核ubatch=1024 实测中,Qwen3-0.6B预填充吞吐从 6977 t/s升至 11026 t/s。
codex发布 0.160.1,修复Windows远程MCP环境变量丢失
OpenAI的codex在 0.160.1 版本中修复了一个bug:为远程stdio MCP服务器显式配置远程环境变量时,SYSTEMROOT、TEMP和TMP会被保留,使Unix主机能保留Windows执行器的启动环境。
llama.cpp v0.6.0发布:新增GLM-5.3-Flash与Clef模型支持,引入扩展批处理API
该版本还加入面向决策模型的 /v1/systemone服务端接口、Qwen4Exp的MTP推测解码(官方称DGX Spark上解码约 1.5 倍加速),以及Metal、Vulkan平台的注意力内核更新。
llama.cpp发布b11429版本,版本号提升至 0.6.0
该版本由提交 #29997 将版本号从先前版本提升至 0.6.0,并附带更新了摘要提示脚本;发布页同步提供了macOS、Linux、Windows、Android及openEuler等多平台预编译产物。
llama.cpp发布b11425:修复CUDA alloc_deps检查的批处理依赖问题
该版本将CUDA后端中alloc_deps检查改为与batch无关,修复issue #29980;发布页同时列出macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp b11424修复Vulkan后端Flash Attention共享内存越界写
llama.cpp发布b11424版本,其唯一列出的变更是“vulkan: fix Flash Attention shmem write out of bounds (#29988)”,即修复Vulkan后端Flash Attention的共享内存越界写入;该版本同时提供多平台预编译二进制。
llama.cpp b11418为Clef模型加入视觉输入支持
llama.cpp发布b11418版本,服务端新增Clef模型的视觉输入支持,并保留macOS、Linux、Windows、Android等多平台预编译包。
开源工具RemoveMacAI可删除macOS上的Apple Intelligence模型并阻止重新下载
开发者称该命令行工具能一次性关闭Siri、写作工具、Genmoji等AI功能,删除约 12GB的本地模型,并阻止macOS再次下载。

llama.cpp发布b11417:为NVFP4类型优化CUDA mmq累加
该版本由llama.cpp仓库自动发布,主要变更是在ggml_cuda的mmq_vec_dot_fp4_fp4_mma中优化累加(accumulation)以提升性能,并附带一轮空白与缩进修正。
llama.cpp b11413发布:Vulkan后端为量化K/V加入稀疏Flash Attention
该版本在Vulkan后端实现针对量化K/V的稀疏Flash Attention(PR #29639),并把稀疏FA的索引压缩改为单次扫描;发布说明由github-actions[bot] 署名,未附公开性能数据。
llama.cpp b11412修复k-pool模型解码时图重分配问题
该版本针对qwen4exp与glm5-next两个k-pool模型,在llama_memory_seq_cp共享单元格等场景下会触发解码期重新预留、进而在GGML_SCHED_DEBUG_REALLOC=1 时中止的问题,改为始终对池化键执行scatter+gather,并仅用上下文常量决定gather形状。
llama.cpp b11408为SpacemiT X60增加Q8_0 IME1矩阵内核
该版本为SpacemiT X60的IME加速补上Q8_0路径。开发者测试显示,在Milk-V Jupiter上pp128从 10.70 t/s提升到 93.87 t/s,Q4_0路径不变。
llama.cpp发布b11407:修复Vulkan测试开启时的未声明标识符
该版本的主要代码改动是修复在 -DGGML_VULKAN_RUN_TESTS=ON时Vulkan后端出现的未声明标识符问题(#29912),并同步提供macOS、Linux、Windows、Android等多平台预编译产物。
llama.cpp b11405发布:CUDA闪电索引器按 4 头分块,ROCm上提速 36 倍
llama.cpp发布b11405版本,合并PR #29901,将lightning indexer的CUDA内核按keys与tokens为 4 头场景分块,并把累加改为浮点;ROCm上面向gfx908的寄存器溢出问题得到处理,作者称在R9700上内核快 36 倍。
llama.cpp b11404为Metal加入少行MMA矩阵乘法,面向投机解码
该合并请求为Apple7及以上、未启用tensor API的Metal设备新增 2 至 16 行src1的mat-mul内核,并给出按权重类型区分的启用行数阈值;提交称M3 Ultra上DFlash2解码此前慢于串行解码。
llama.cpp b11403发布:CUDA在小批量下对薄f16/bf16矩阵乘改用MMVF
llama.cpp发布b11403版本,唯一代码改动是CUDA后端在较小批量、较薄f16/bf16 mul_mat形状下改用MMVF,并调整了内核选择逻辑,作者为ynankani,Johannes Gäßler参与协作。
llama.cpp发布b11402:CUDA后端改用整tile FlashAttention调度
该版本唯一列出的代码变更是CUDA的FlashAttention调度调整(#29435),倾向整tile调度以配合两阶段kernel;发布页同时提供各平台预编译包。
llama.cpp b11401修复路由器子进程日志颜色与控制命令混杂问题
该版本将路由器子进程的状态命令与其日志从同一条管道拆开:子进程stdout专用于命令,其余输出重定向到stderr;同时让日志行自带颜色重置、在Windows控制台启用ANSI颜色。
llama.cpp b11400支持批处理中同时使用嵌入向量与原始token
该版本合并PR #29622,在batch中同时支持embd和raw tokens,并新增对llm_arch_supports_mixed_batch=false情况的检查,同时提供多平台预编译包。
llama.cpp发布b11399:CUDA swizzling代码重构并修复模板与循环边界
该版本由GitHub Actions自动发布,提交信息显示本次改动为CUDA swizzling代码重构,并修复了模板与循环边界;发布页同时提供macOS、Linux、Windows、Android等多平台构建包。
llama.cpp b11398为x86 tinyBLAS加入BF16/FP16/FP32 K尾部向量化
llama.cpp发布b11398,PR #29806 让x86上tinyBLAS支持BF16、FP16与FP32的K尾部向量化;测试在use_ref启用时跳过tinyBLAS,使CPU测试改为对比vec_dot路径。
llama.cpp发布b11397:CUDA代码将neu_padded移到使用位置
llama.cpp构建b11397发布,提交内容为“cuda : move neu_padded to where it is used (#29940)”,由Adrien Gallouët署名,发布说明同时列出各平台预编译包下载链接。
llama.cpp发布b11396:Windows LLVM构建改为要求Ninja multi-config
该版本由GitHub Actions机器人发布,唯一说明的变更来自PR #29959;发布页同时列出macOS、Linux、Android、Windows等平台的预编译包,其中macOS KleidiAI与openEuler条目标注为DISABLED。
llama.cpp发布b11393:修复chat-peg-parser的use-after-free
该版本修复了TOOL_ID节点在TOOL_CLOSE之后到达时,current_tool仍指向已销毁的pending_tool_call所导致的内存错误,并同步更新各平台预编译包。
llama.cpp发布b11391:CUDA后端将blocks_per_col移到使用位置
llama.cpp在GitHub发布版本b11391,唯一列出的代码改动是CUDA相关:把blocks_per_col移动到它被使用的地方,由贡献者Adrien Gallouët签署。发布同时提供多平台预编译包。
llama.cpp b11389发布:修复Vulkan后端RDNA4 mat_vec调优
该版本主提交为vulkan: fix rdna4 mat_vec tuning(PR #29934),仓库同时提供macOS、Linux、Windows、Android等多平台预编译包,KleidiAI的macOS包与openEuler构建标记为DISABLED。