该版本的核心改动来自PR #29283,由Georgi Gerganov参与合著:在RPC的get_alloc_size缓存键中加入nb,并把返回值下限固定为ggml_nbytes。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp b11179发布:SYCL后端支持稀疏Flash Attention
该版本为Intel GPU的SYCL后端加入sparse FA支持,同时继续提供覆盖macOS、Windows、Linux、Android的多后端预编译包。
阅读全文LangChain发布langchain-fireworks 1.6.3:声明不支持原生PDF输入,保留畸形工具参数
该版本修复两个问题:Fireworks集成不再假装支持原生PDF输入,工具调用参数畸形时以诊断JSON保留而不是丢弃,同时刷新了模型配置文件。
阅读全文llama.cpp b11178合并MUSA补丁:修复MTT S5000算子失败与构建问题
该版本针对摩尔线程MTT S5000(PH1,mp_31,MUSA SDK 5.2.0)修复FlashAttention拷贝宽度、CUB路径、MMQ误用、TOPK_MOE挂起等问题,并将MUSA CI与文档默认目标从MTT S80迁至PH1。
LiteLLM发布v1.100.3,Docker镜像统一用cosign签名
该版本把 #39631、#39729、#40639 三个改动回合到stable/1.100.x分支;发布说明同时给出用固定commit hash或发布标签验证镜像签名的两种命令。
LiteLLM发布v1.98.1:回移Bedrock修复与Python 3.13镜像锁定
该版本对stable/1.98.x分支做了一次补丁回移,包含 #41870、GPT-6推理门修复以及Python 3.13镜像固定;同时所有Docker镜像继续使用cosign签名。
LiteLLM发布v1.99.4,主分支仅回合并三个补丁
这是一个维护版本:发行说明只列出一次将 #39631、#39729、#40639 回合并到stable/1.99.x并发布 1.99.4 的提交,同时重申所有Docker镜像沿用同一把cosign密钥签名。
llama.cpp CUDA后端合并RMS_NORM与SCALE内核,投机解码预填充提速约 4%
b11177版本为rms_norm_f32增加do_scale标志,把GDN层的l2norm两步运算融进一个内核;在 2 张GTX 1080 Ti上,draft-mtp投机解码的 20000 token冷预填充从 322.0 tok/s升至 337.4 tok/s。
Ollama v0.40.0-rc0:Apple Silicon上支持MLX的模型默认走MLX运行
Ollama发布v0.40.0-rc0,在Apple Silicon设备上,MLX runner支持的模型架构将默认使用MLX运行;RC期间会继续测试并启用更多模型。
llama.cpp构建b11175为Hexagon NPU加入Q5_K量化类型支持
变更日志显示,该版本在Hexagon后端新增Q5_K量化类型,同时继续发布覆盖macOS、iOS、Linux、Android、Windows和openEuler的多平台预编译包,其中KleidiAI版macOS构建与openEuler构建仍处于禁用状态。
llama.cpp b11174发布:Hexagon后端对连续dim1 CONCAT改用DMA
该版本把高通Hexagon NPU后端的CONCAT算子在一维连续场景下切换为DMA实现,发布页面同时列出了各平台预编译包下载入口。
OpenAI Codex 0.157.0发布:新增GPT-6 Sol和Luna模型,支持Amazon Bedrock
Codex 0.157.0将GPT-6 Sol和Luna加入模型目录,并为旧模型提供迁移提示,同时默认开启全屏转录和后台服务器自动启动。
gemini-cli发布v0.62.0-nightly.20260925每日构建,修复MCP配置识别与stdin恢复问题
该每日构建包含 5 项变更:v0.61.0-preview.1与v0.61.0的changelog,以及三项分别针对MCP配置、CLI stdin和core工具输出大小的修复。
llama.cpp发布b11173:修复Metal图捕获并处理空图
llama.cpp版本b11173修复了Metal后端的图捕获逻辑,空图提前返回,捕获计数器不再冗余重置,并在捕获错误提示中建议设置METAL_CAPTURE_ENABLED=1。
llama.cpp发布b11172:优化Metal后端稀疏注意力并清理代码
llama.cpp发布版本b11172,主要改动为Metal后端的稀疏Flash Attention优化与代码清理,提交编号 #29377。
llama.cpp发布b11171,同步ggml至 0.25.3 并修复一处UBSan错误
该版本核心改动来自ggml子模块:版本号先升至 0.25.2,修复ggml_graph_nbytes的UBSan错误,再升至 0.25.3;配套二进制覆盖macOS、Linux、Windows、Android等平台。
llama.cpp发布b11170:Hexagon后端修复concat_2d多序列处理
llama.cpp构建b11170发布,主要变更是Hexagon后端在concat_2d中处理多序列,同时更新了跨平台预编译包。
llama.cpp发布b11169,修复token_id解析中的数值截断问题
llama.cpp新版本b11169的改动集中在llama-grammar模块,修复token_id解析时的数值截断,同时提供覆盖macOS、Linux、Windows、Android及多种加速后端的预编译包。
llama.cpp发布b11168,改进Hexagon NPU上的动态量化器
该版本修复了Q8_0在N=1 矩阵乘法中的精度问题,消除了寄存器溢出,并为所有动态量化路径启用DMA。
llama.cpp b11167发布:Hexagon后端新增I32复制与拼接支持
llama.cpp发布b11167版本,主要变更是Hexagon后端支持I32类型的CPY和CONT操作,提交编号 #29379;同步更新各平台预编译包,其中macOS的KleidiAI加速版与openEuler构建仍处于禁用状态。
llama.cpp b11166发布:CUDA后端为CONV_2D_DW增加F16内核支持
llama.cpp发布b11166版本,主要变更是CUDA后端为CONV_2D_DW算子加入F16内核支持(#29064),同时照例提供覆盖macOS、Linux、Windows、Android的多后端预编译包。
llama.cpp发布b11165构建,附带macOS、Linux、Windows、Android多平台二进制包
该版本的主要代码变更为“test: flush status (#28352)”,同时发布了涵盖CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL等后端的预编译产物。
GitHub博客:聊天框不适合多数任务,Copilot用Canvas生成可交互UI
GitHub开发者Burke Holland在官方博客提出,LLM三年来的主界面仍是聊天,但用户清楚自己要做什么时,聊天往往是错误界面;Copilot应用内的Canvas可即时生成全栈小应用,与AI双向通信,也能本地执行代码、调第三方API。

llama.cpp发布b11163,新增llama_batch_ext批量接口
该版本通过PR #24669 引入llama_batch_ext,支持在同一个batch中混合token、embedding和state,并附带了常见解码流程的演示。
Claude Code v2.1.282发布:新增maxProseWidth等设置,修复会话恢复丢失推理等问题
该版本为Claude Code命令行工具加入maxProseWidth、allowClaudeInChromeWithManagedMcp等新设置,并集中修复了会话继续/恢复时重复发送消息、丢失扩展思考、400 错误等数十项缺陷。
GitHub Security Lab发布AI模糊测试流水线Fuzzing Taskflow
该流水线基于GitHub Security Lab Taskflow Agent构建,用户只需提供一个GitHub仓库地址,代理就会自动完成识别入口点、编写harness、运行AFL++、读取覆盖率报告、改进harness、分类崩溃并生成漏洞报告的全流程。

LangChain发布langchain-core 1.6.5,修复XML缓冲区长工具ID问题
该版本仅包含两项改动:版本号升至 1.6.5,并修复XML缓冲区字符串中工具ID过长时的缩写处理。
llama.cpp b11160为AMD RDNA3/RDNA4增加int8 coopmat1矩阵乘法
该版本在Vulkan后端实现int8 cooperative matrix量化矩阵乘法,支持q8_0、q4_1、q5_0、q5_1、q3_k、q4_k、q5_k、q6_k、iq4_nl、iq4_xs、mxfp4和nvfp4等量化格式,仅针对AMD RDNA3和RDNA4架构。
llama.cpp b11159发布:Vulkan后端修复conv_2d/conv_3d的misalignment问题
llama.cpp发布b11159构建版本,核心改动是在Vulkan后端处理conv_2d和conv_3d的对齐问题(PR #29365),同时修复test-backend-ops的打印输出。发布页附带了macOS、Linux、Windows、Android等多平台预编译包下载。
llama.cpp b11158为Adreno GPU启用Vulkan协作矩阵支持
该版本的核心改动是在Vulkan后端为Adreno GPU开启KHR cooperative matrix(协作矩阵)支持,同时修复mul_mat_s并移除调试语句。