llama.cpp在b11715版本的发布说明中列出一条ggml-cuda改动:HIP后端改用 __builtin_amdgcn_perm处理q1_0解包(PR #29927),同时照例提供各平台预编译包。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
LiteLLM发布v1.103.5:回移植responses修复,Docker镜像需cosign校验
该版本只包含一项变更:把 #46099 和 #46109 两个responses修复回移植到stable/1.103.x分支。发布说明同时列出用cosign校验ghcr.io/berriai/litellm:v1.103.5镜像签名的两种方式。
阅读全文llama.cpp b11714发布:llama-ui新增从Hugging Face Hub发现并下载模型
该版本在模型管理器中加入Discover Models界面,可浏览和下载HuggingFace GGUF模型;默认关闭,开启时会同时打开Hugging Face Hub设置。下载支持暂停续传、随主模型拉取匹配的draft旁挂文件。
阅读全文llama.cpp发布b11713:CUDA低比特类型MMVQ提速,并修复HIP下Q3_K/Q6_K小nwarps问题
该版本合并PR #30517,为CUDA后端低比特量化类型提供更快的MMVQ;同一提交还修复了ggml-cuda HIP路径在GCN小nwarps下Q3_K(ncols=2,3)与Q6_K(ncols=4)的问题。发布页同步提供macOS、iOS、Linux、Android、Windows等多平台预编译包。
llama.cpp测试随机模型生成器改为按张量填充表,Muse Spark随机种子失败率降至零
llama.cpp发布b11712,测试中的随机模型生成器改用按张量名子串选取填充规则的表。改动后,CPU构建下约千个随机种子的最差NMSE从 1.36e-05降到 2.48e-06,无种子超过 1e-05阈值;其余 131 个模型逐位不变。
llama.cpp发布b11711:修复CUDA fattn向量调度中的 -Wtautological-compare警告
该版本由Adrien Gallouët提交(PR #30519),改动集中在CUDA后端fattn向量调度的编译警告修复;发布页同时提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp b11707为Granite switch模型扩展至 256 个单token选项标记
该版本在模型转换阶段扫描模型词表,为每个switch模型找出可映射到输出概率logits的单token选项标记;作者Gabe Goodhart称,原先大小写字母加数字的组合只有 66 个唯一标记。
llama.cpp b11706修复SYCL后端Q4_0/Q8_0权重重排后的提示处理回退
该版本由llama.cpp发布,提交标题写明针对SYCL后端在Q4_0/Q8_0权重重排后出现的提示处理(prompt-processing)性能回退进行修复(#30374);发布页同时列出各平台预编译包。
gemini-cli发布v0.66.0 nightly版本,修复CLI多项问题并新增Gemini 4提示横幅
该nightly版本由自动化账号发布,更新内容包括在CLI中增加一条提示Gemini CLI未针对Gemini 4优化的横幅,并修复快捷键配置、命令冲突去重、更新校验和进程信号转发等问题。
llama.cpp b11703将Hexagon后端softplus运算改用HVX向量化
该版本把softplus_f32与tile_softplus_f32中逐元素执行的logf(1.0f + expf(x)) 标量循环,替换为基于既有hvx_vec_exp_f32、hvx_vec_log_f32 primitive的共享HVX辅助函数;发布说明称未引入新的数值近似。
openai-python发布v3.33.0:图像请求与响应新增安全标识符
该版本于 2026-10-16 发布,含两项api变更:为图像请求与响应加入安全标识符,并共享Decisions缓存断点参数类型。
llama.cpp b11702为Adreno X1设备新增MxFP4 MoE OpenCL内核
llama.cpp发布b11702版本,在OpenCL后端加入面向Adreno X1的MxFP4 MoE二值化内核,并为X1E启用dp4a clc;具体性能提升未在发布说明中给出。
llama.cpp发布b11701,新增Beam(Reflection)模型
该版本构建包覆盖macOS/iOS、Linux、Android、Windows等平台,更新日志仅显示“model: add Beam (Reflection) (#30670)”。
Ollama发布v0.40.6-rc1:新增GGUF q2_0量化类型,修复Windows孤儿runner
该预发布版本包含四项改动:Windows平台防止孤儿runner、GGUF新增q2_0张量与文件类型、在Ollama云中启动clef、--ask模式问题键改用标识符。
Claude Code v2.1.302发布:新增自动模式模型选择,修复 128MB以上图片读取等问题
Anthropic的Claude Code发布v2.1.302,新增CLAUDE_CODE_AUTO_MODE_MODEL环境变量控制客户端自动模式分类器所用模型,并在 /config中加入闲置压缩开关;同时修复了大量跨平台、云会话、Slack集成与MCP相关问题。
openai-python发布v3.32.0:新增缓存设置与区域处理驻留选项
OpenAI Python SDK的 3.32.0 版本于 2026 年 10 月 16 日发布,新增缓存设置与密钥选项、基于提示词的语音创建、区域处理驻留选项、响应错误诊断与模型通知、Live会话中的音频夹具回放与Decisions支持。
LangChain发布langchain-core 1.6.12,修复内容块起始事件的extras传递
该版本自 1.6.11 起包含两项变更:发布版本号至 1.6.12,并修复content-block-start事件中extras字段的传递问题。
llama.cpp b11699:HTTP客户端开始遵循代理环境变量,并默认绕过本地回环地址
该版本让common_http_client() 读取HTTP_PROXY/HTTPS_PROXY/NO_PROXY,修复 -hf等下载在代理环境下静默失败的问题;同时强制localhost、127.0.0.0/8、::1 等回环目标直连,避免健康检查卡在“Loading model...”。
Transformers v5.20.1发布:加入Reflection AI的Beam模型并修复旧版torch加载问题
Hugging Face Transformers发布v5.20.1,新增Reflection AI的Beam模型支持,并集中修复多个补丁,其中包括在旧版torch上加载模型失败的问题。
llama.cpp发布b11696:修正Hexagon HMX注意力sink,并在HMX内核中向量化
llama.cpp版本b11696的更新说明显示,该版本包含一个Hexagon相关改动:修正HMX FA sinks,并在HMX内核中向量化sinks,由Max Krasnyansky参与合著。
llama.cpp b11695发布:为Mellum2.1加入MTP支持
llama.cpp发布b11695版,更新日志显示该版本为Mellum2.1模型加入MTP(多token预测)支持,并将Mellum的rope构造改为内联实现。
llama.cpp发布b11693:修复SYCL后端mul_mat、缓冲区拆分与主机池内存错误
该版本由llama.cpp官方发布,PR #29889 针对SYCL后端的三处内存错误做了修复;发布页同时列出各平台预编译包,其中macOS KleidiAI构建与openEuler相关构建处于禁用状态。
llama.cpp发布b11690构建:ngram缓存改为按引用读取
该版本唯一列出的代码变更是common模块读取ngram缓存分片时不再复制;发布页同时提供macOS、Linux、Windows、Android与openEuler的多后端预编译包,其中KleidiAI、openEuler与部分平台仍标记为DISABLED。
llama.cpp发布b11688:CPU路径将AVX2分块累加器合并处理
llama.cpp版本b11688的变更条目显示,一次CPU侧改动将AVX2分块累加器合并归约,对应PR #30296,并标注Assisted-by: Codex。该版本同时照例提供多平台预编译产物。
llama.cpp b11684修复融合基线测试漏报,Metal基线重录为 277 行
该版本让test-fusion在基线行未被运行时复现时判定为回归,并修正mellum虚拟模型的softmax门控设置;此前qwen4exp和mellum丢失融合时Fusion / metal任务仍显示通过。
llama.cpp发布b11683:修复Vulkan GPU可见主机内存问题
该版本修复主机指针导入失败时的日志刷屏、将MoltenVK排除在共享内存导入之外,并以断言替换不可达代码、缩短警告信息;同时在AMD上禁用主机内存缓冲区共享,原因是amdgpu性能问题。
llama.cpp b11680发布:Hexagon张量重打包重构,支持平铺与扁平量化权重
该版本由GitHub Actions机器人发布,提交信息显示重构了Hexagon后端的张量重打包规则,新增对Q5_K等k-quant张量的GET_ROWS支持,并将重打包统一改称tiled。发布日志未给出性能对比数据。
llama.cpp发布b11678:CUDA固定主机缓冲区上限设为 4 GB
该版本的核心变更是将CUDA pinned host buffer的最大值限制在 4 GB,对应PR #30449;发布页同时提供多平台预编译包。
llama.cpp b11675发布:mtmd新增音频流接口,支持voxtral-realtime
该版本由发布说明标注为mtmd模块新增mtmd_audio_stream,并加入对voxtral-realtime的支持,PR编号 #30629;发布页同时列出多平台预编译包和多种后端构建。
llama.cpp b11672调整LightOnOCR图像处理:不再强制最长边 1540,默认原生分辨率
llama.cpp发布b11672构建,其中mtmd对LightOnOCR的处理改为不再要求最长边固定为 1540,原生分辨率成为默认值;同步提供多平台二进制包。