此前Snapdragon CI构建只用于QDC设备测试,Hexagon NPU二进制从未出现在发布页;本次改动让release.yml同时构建两个目标并作为发布资产附带。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp b11097为OpenCL加入A8 Q4_0非MoE dp4a二值核
该版本唯一列出的代码变更是PR #29055 新增的OpenCL内核,面向非MoE模型的A8激活与Q4_0权重量化组合,并在Windows arm64 OpenCL Adreno等平台上提供预编译产物。
阅读全文vLLM v0.30.0发布:762 次提交、315 位贡献者,新增Fast Start权重缓存与Gumbel-max水印
这一版把重启引擎从磁盘重载权重改成用CUDA IPC直接映射常驻显存缓存,并加入可检测的Gumbel-max水印生成,同时把DeepSeek-V4.1-Flash、GLM-5.3-Flash、Kimi K3等新模型的推理路径做了针对性优化。
阅读全文LangChain发布langchain-fireworks 1.6.2,主要修复LLM测试所用模型
该版本自 1.6.1 以来的改动以测试修复为主,另包含多次模型档案数据刷新和多项依赖升级。
LangChain发布langchain-deepseek 1.1.1,修复OpenAI依赖与缓存字段映射
该版本修正了与OpenAI依赖包的最低兼容版本,并把DeepSeek的prompt_cache_hit_tokens映射为cache_read,同时将严格模式路由到beta端点。
LangChain发布langchain-openrouter 0.2.9,主要是模型档案数据刷新与anyio依赖升级
这次版本更新没有涉及API变更,改动集中在持续刷新模型档案数据和把anyio依赖从 4.13.0 升到 4.14.2。
Google GenAI Python SDK发布v2.25.0,把语音能力接入SDK
python-genai v2.25.0于 2026 年 9 月 22 日发布,新增Voices API资源、Voice的sample_audio,并在公开GenAI SDK中暴露SpeechMetadata、VoiceConfig.voice和SpeechAnnotation。
openai-python v3.17.0发布:新增外部存储配置、安全案例检索等API能力
OpenAI官方Python SDK于 2026 年 9 月 22 日发布 3.17.0 版本,新增六项API功能,并修复模型类型、空消息内容解析等问题。
llama.cpp发布b11095:为Hexagon加入HMX优化的GATED_DELTA_NET
提交记录显示,新版本为GDN增加HMX支持并重写VTCM布局、引入流水线与HVX线程化,其中一项改动让token生成期间DDR读取减少 20%–30%。
gemini-cli发布v0.62.0-nightly.20260922夜版,修复代理解析与ACP模式工具调用顺序
该夜版包含两项修复:core模块规范化proxy-agent的esbuild互操作以解析环境代理,CLI在ACP模式下先于权限请求发出tool_call更新。
llama.cpp发布b11094:把cpp-httplib升级到 0.57.1
这次构建的唯一功能变更是把内置HTTP库cpp-httplib更新到 0.57.1,其余内容是覆盖多平台的预编译包清单。
llama.cpp发布b11093:修复Metal闪存注意力掩码边界
llama.cpp发布b11093版本,核心改动是修复Metal后端flash attention块预处理阶段的掩码边界问题(PR #29220),并同步放出macOS、Linux、Windows、Android等多平台预编译包。
Hugging Face让Transformers直接跑llama.cpp的GGUF量化模型
初始版本仅支持Apple Silicon、Qwen3.5架构,推荐先用Q4_K_M量化;官方称生成速度已接近llama.cpp,但打包推理路径目前只在MPS上可用。
oMLX作者Jun Kim加入Hugging Face,项目转为全职维护并保持Apache 2.0
Hugging Face宣布oMLX创建者兼维护者Jun Kim加入团队,oMLX从副业变为有资金支持的全职项目,许可证仍为Apache 2.0,Jun继续领导该项目。
llama.cpp发布b11090:修复CUDA sm_70(Volta)tile编译错误
更新由PR #29224 完成,针对 1884824fd引入的 5 参数load_ldmatrix只定义单一tile形状的问题,将其tile形状泛化,使非swizzle分支对任意形状都回退到 3 参数loader;作者称本地编译与测试通过。
llama.cpp发布b11081:测试工具可配置张量标准差,回滚检查改用NMSE
该版本集中修改test-llama-archs与test-recurrent-state-rollback两个测试程序,新增 --arch正则支持、未知参数报错和运行摘要,同时调整了合成测试数据与top-k稳定性逻辑。
Open WebUI v0.11.4发布:slim镜像缩至约 175 MB,终端技能与聊天内建技能成主线
这一版把slim镜像砍到约 175 MB、标准镜像减重约 170 MB,同时让终端服务器的技能进入统一技能菜单、模型能自动发现可用技能,并新增从聊天一键生成技能、终端多命令标签页和逐语言模型文案。
llama.cpp b11080发布:test-backend-ops的 -o过滤器支持正则表达式
llama.cpp发布b11080构建版本,测试工具test-backend-ops的 -o过滤参数从此前的精确匹配扩展为对非纯算子名条目按正则表达式匹配,纯算子名仍保持精确匹配。
llama.cpp b11078发布:采样参数可通过环境变量配置,llama-server可完全由EnvironmentFile控制
llama.cpp新构建b11078加入LLAMA_ARG_* 环境变量,支持配置temperature、top-p、min-p及三类惩罚参数,官方称这让llama-server能完全通过EnvironmentFile(如Debian上的systemd)控制。
langchain-openai发布 1.6.3:暴露Responses API路由推断,支持GPT-6请求约束
在 1.6.2 之后,langchain-openai 1.6.3共合并四项变更,其中两项为修复:初始化时暴露推断出的Responses API路由,以及支持GPT-6请求约束。
llama.cpp b11077修复router模式API key传递:子实例不再收到 --api-key-file
在router模式下,认证归router管;此前子实例会重新用文件密钥校验,导致使用 --api-key的客户端在chat completions上收到 401,router内部的无鉴权流调用也被静默拒绝。
llama.cpp发布b11076:仅移除测试中的过时注释
这次构建版本没有功能变更,提交信息为“tests : remove stale comment (#29140)”,附带macOS、Linux、Windows、Android等平台预编译包。
llama.cpp发布b11075:简化Metal融合算子列表声明
llama.cpp新构建b11075的改动集中在ggml-metal后端:从ops_all推导非空融合算子列表,并去掉融合算子模式向量名的 _all后缀;同时发布覆盖macOS、Linux、Windows、Android等平台的预编译包。
LlamaIndex发布v0.14.25,跨数十个包修复安全告警
核心包llama-index-core升至 0.14.25,移除IPEX集成、修复重试与流式问题,并为大量回调、嵌入、LLM集成包统一处理安全告警。
llama.cpp b11074修复JSON枚举处理
llama.cpp发布b11074构建版本,修复了common_json中枚举值的处理方式,并附带覆盖macOS、Linux、Windows、Android等多种后端和架构的预编译包。
LangChain发布langchain-core 1.6.4,弃用聊天消息历史
该版本自 1.6.3 起还升级了anyio和soupsieve依赖,其中anyio从 4.12.0 升至 4.14.2,soupsieve从 2.8.4 升至 2.9。
llama.cpp b11073发布:SYCL后端合并MKL-FA softmax加载
这次构建的主要代码变更是SYCL后端重新组织MKL-FA softmax的加载方式,把原先每行一个work-item改为合并处理;发行页同时仍按平台列出macOS、Linux、Windows、Android等预编译包。
llama.cpp b11071发布:Ubuntu CUDA构建升至CUDA 13.4
llama.cpp发布b11071版本,其CI变更将Ubuntu CUDA Release构建升级到CUDA 13.4(#29202),同时提供涵盖macOS、Linux、Windows、Android的多种预编译包。
Multiverse用伊辛模型选剪枝块:Llama-3.3-70B砍掉一半深度,MMLU比最强基线高近 23 分
Multiverse Computing在Hugging Face博客发布论文《LLM Compression by Block Removal with Constrained Binary Optimization》,把整块Transformer删除(深度剪枝)的选块问题改写成受约束二值优化,对应到全连接伊辛自旋玻璃,并用开放源代码的tabu求解器求解;在Llama-3.3-70B-Instruct压缩 40/80 块且不重训时,MMLU为 76.9,对比block influence的 54.0。
llama.cpp发布b11070:Hexagon后端重构DMA与缓冲区,支持 64 位映射
该版本由PR #29197 驱动,把六边形DSP的缓冲区管理和DMA搬进 64 位地址空间,同时为多个算子改用DMA路径。