新版本将推理内容保留开关改为默认开启,并增加日志提示,同时弃用通过 --chat-template-kwargs传递该参数的旧方法。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp b10762发布:新增DeepSeek-V4-Flash-Vision-Exp多模态支持
该版本通过mtmd架构支持DeepSeek-V4-Flash-Vision-Exp模型,附带多项后台优化,并更新了全平台预编译包。
阅读全文GitHub详解Copilot成本优化:缩短单个输出可能让整个任务更贵
GitHub官方博客介绍四项降低Copilot编码成本的具体改动,并指出单次工具调用token数不是衡量效率的合适指标。
阅读全文python-genai 2.22.0发布:新增Gemini 3.8 Flash模型支持
Google的python-genai SDK更新至 2.22.0,添加Gemini 3.8 Flash模型并更新相关描述。
PyTorch 2.14.0发布:新增NVGEMM、torch.switch,多处API破坏性变更
PyTorch 2.14.0带来NVGEMM、torch.switch和动态形状声明等新特性,同时移除torch.cholesky等旧API,并调整clamp梯度边界行为。
llm-gemini 0.34发布:支持Gemini 3.8 Flash,提供低/中/高三档思考级别
新插件版加入gemini-3.8-flash模型,并修复异步响应未记录解析模型版本的问题。
OpenAI Codex发布 0.153.0-alpha.6版本
该版本为代号rust-v0.153.0-alpha.6的预发布版,未提供具体更新说明。
llama.cpp b10760发布:修复Qwen3-TTS-0.6B代码预测器在F16下的精度崩溃
新版本将Qwen3-TTS-0.6B的code predictor FFN中间层权重保持在F32,避免激活峰值超过F16上限导致输出变为无穷或NaN,并修正了权重加载逻辑。
llama.cpp发布b10759:修复KleidiAI调度时的缓冲区类型初始化问题
新版本默认提供macOS Apple Silicon (arm64) 构建,但启用KleidiAI的构建因相关PR被禁用;同时为Ubuntu s390x、Windows ARM64 CUDA预览版等提供实验性支持。
llama.cpp b10758发布:Hexagon后端融合QKV/FFN矩阵乘法并修复
新版聚焦Qualcomm Hexagon后端:将落在HMX上的QKV与FFN matmul融合,并移除硬编码的ne[1];同步提供多平台二进制。
llama.cpp b10757发布:Vulkan后端优化IQ3_S量化大batch矩阵-向量乘法
新版本在NUM_COLS > 4 时启用更高效的IQ3_S矩阵-向量kernel,n=8 批大小下性能提升达 5 倍。
llama.cpp b10756发布:Vulkan后端仅在支持时请求BF16扩展
llama.cpp b10756发布,改进Vulkan后端对bfloat16扩展的兼容性处理,并更新多平台二进制包,涉及macOS、Linux、Windows、Android和iOS。
llama.cpp b10754发布:修复Adreno OpenCL图像内核越界读取
llama.cpp发布b10754版本,修复了Adreno图像内核中的越界读取问题,并改进KQ/KQV GEMM的调度逻辑。
LiteLLM发布v1.99.1:仅提供Docker镜像,修复OpenTelemetry缓存令牌计数
LiteLLM v1.99.1是仅镜像发布,无PyPI包,修复了OpenTelemetry v2缺少缓存令牌计数的问题。
LiteLLM发布v1.97.1:仅容器镜像更新,修复已知CVE
LiteLLM v1.97.1仅发布Docker镜像,未发布PyPI包;该版本刷新了基础镜像和依赖项固定版本以修复已知CVE,未改变LiteLLM行为。
llama.cpp发布b10753:为Hexagon后端补齐cpy/get_rows/set_rows/gdn算子的FARF日志
该版本修复了proc_op_req日志中ne[2] 打印错误,并为cpy、get_rows、set_rows、gdn算子新增形状与VTCM的FARF日志,同时提供多平台二进制包。
LangChain 1.4.0a4继续完善MCP适配层
第四个alpha版本调整MCP客户端组、工具转换、缓存和elicitation中断路由,仍属于预发布版本。
OpenAI Codex发布 0.153.0-alpha.5版本
这是Codex CLI的一个预发布版本,属于alpha分支的迭代更新。
OpenAI Python SDK发布v3.7.0:更新用量API文档并优化embedding的numpy检查
新版本更新了usage APIs及相关文档,并修复了embedding处理中重复numpy检查的问题。
谷歌发布gemini-cli 0.59.0夜间版,改进网页抓取工具的目的地验证与连接路由
本次更新由首次贡献者diegogodinezr提交,核心修复针对网页抓取工具中目的地验证和连接路由。
llama.cpp b10752发布:为XCFramework增加metallib构建支持
更新聚焦Metal后端构建,使iOS XCFramework可包含预编译metallib,并同步更新多平台二进制与预编译包。
Ollama 0.33.3修正GGUF默认参数处理
新版本会遵循GGUF模型文件声明的默认参数,并同步更新MLX、MLX-C与llama.cpp依赖。
Claude Code v2.1.258修复macOS 12启动失败及远程/定时会话报错
针对 2.1.255 引入的回归问题,Claude Code发布补丁修复macOS Monterey启动失败和远程/定时会话权限审批错误。
OpenAI Codex发布v0.152.1:修复Node REPL策略未生效问题
Guardian审批审查现在会遵循通过模型元数据提供的Node REPL策略。
LiteLLM v1.101.0-dev.1:新增Claude Fable 5.1、GLM-5.3定价及工作负载身份联合支持
LiteLLM发布v1.101.0-dev.1开发版,新增Claude Fable 5.1模型支持、Qwen平台别名、GigaChat原生直通、分时非高峰定价,并推出OpenID连接工作负载身份联合,还修复了多项代理与模型路由问题。
Langflow 1.12.0发布,强化RBAC、SSO、可观测性与安全
新版本为模型提供商引入治理与审批策略,支持将遥测导出到任意OTLP后端,并加大了对代码执行沙箱和密钥保护等安全机制的投入。
Google发布gemini-cli v0.58.0:修复符号链接、隔离macOS Docker套接字等
更新包含 6 项修复与重构,重点改进沙箱安全性、忽略路径处理和A2A服务器错误处理。
Google发布gemini-cli v0.59.0-preview.0,修复MCP安全漏洞并加强工作区信任限制
新版本修复了MCP OAuth元数据发现与认证过程中的SSRF风险,并在受限模式下强制执行工作区信任和mcpServers过滤。
llama.cpp b10751发布:CUDA端融合MoE加权专家归约,减少显存中间流量
llama.cpp发布b10751版本,核心改动是在CUDA后端将MoE组合尾部的加权专家输出写入全局内存再归约的过程,融合为单个加权归约内核,以降低显存带宽开销。
llama.cpp b10750:KV缓存n-gram查找改用序列位置索引,生成速度提升约 5%
新版本通过复用序列位置索引避免在每个ubatch重建哈希表,使解码速度从 ~69.3 t/s升至 72.7 t/s(+4.9%),预填充保持不变,贪心输出结果一致。