英伟达发布两个开源项目NVIDIA Kubernetes Engine和NVIDIA Kubernetes Recipes,用于在GPU基础设施上构建和运营托管Kubernetes服务,均已进入公开预览,代码以Apache 2.0许可发布在GitHub。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
NVIDIA发布开源组件Snapshot,GPU推理负载恢复缩短至秒级
NVIDIA技术博客称,Snapshot可将已初始化的GPU推理负载做成检查点并在同型号GPU、同驱动节点上恢复,跳过权重加载、编译与CUDA图捕获;其基准测试中恢复时间 3.6 至 42.7 秒,相比冷启动快 8 至 36 倍。
阅读全文llama.cpp b12246调整Vulkan后端:高通GPU大head标量flash attention限为每组 8 行
该项目称,在Adreno X1-85上,head size 256、KV 4096的FLASH_ATTN_EXT用例从 711 毫秒降到 17 毫秒,此前一直无法完成的test-backend-ops现在可以跑完。
阅读全文Hugging Face政策主管警告:网络攻击或迫使开源AI平台收紧开放程度
Irene Solaiman在Equity播客中表示,Hugging Face正加快轮换管理员访问令牌并加强网络控制;她担心攻击频发会让开源社区在获得广泛支持之际反而走向封闭。

蚂蚁灵波开源触觉基础模型LingBot-Touch,26项真机测试成功率提升14至26个百分点
蚂蚁灵波科技11月10日开源触觉基础模型LingBot-Touch,基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类传感原理,已接入LingBot-VLA,技术报告、模型和代码已在Hugging Face、GitHub和魔搭社区开放下载。
蚂蚁灵波开源触觉预训练模型LingBot-Touch,π0.5接入手套数据后成功率升至74.17%
蚂蚁灵波11月10日开源触觉基础模型LingBot-Touch,将磁触觉、视触觉、压阻式触觉信号统一编码为触觉Token。团队实验显示,π0.5直接接入原始触觉信号时拉拉链成功率从39%降至15%,接入该模型后升至59%。
llama.cpp b12243为Alchemist在head_dim=64 时解除oneDNN融合SDPA限制
llama.cpp发布构建b12243,唯一代码变更来自PR #31574:在SYCL后端中,为Intel Alchemist显卡在head_dim=64 条件下解除对oneDNN融合SDPA的限制。
openai-python发布v3.49.0:新增带类型的异步函数工具,修复麦克风录音WAV编码
OpenAI Python SDK于 2026 年 11 月 10 日发布 3.49.0 版本,包含一项新功能和一项缺陷修复,均由openai-sdks[bot] 在GitHub发布说明中列出。
LangChain发布langchain-core 1.7.7:为load() 增加嵌套深度上限
该版本相对 1.7.6 共三项变更,其中一项是修复load() 的嵌套深度,另两项为版本发布与依赖安全锁定更新。
Claude Code v2.1.322在Vertex的三个区域新增快速模式
Anthropic的Claude Code发布v2.1.322,在Vertex的global、us、eu区域加入快速模式;当Vertex拒绝时回退到标准速度。
llama.cpp b12242发布:同时设置response_format与工具时不再使用lazy grammar
llama.cpp发布b12242版本,更新说明中唯一的改动条目为:chat功能在response_format与tools同时启用时不再使用lazy grammar(#31956)。该版本同时提供macOS、Linux、Windows、Android等多平台预编译包。
llama.cpp发布b12239:实时API改用common_chat_input
llama.cpp在b12239版本的发布说明中列出唯一变更:server部分的实时API改用common_chat_input(#31978)。发布页同时提供各平台预编译包,以及标记为DISABLED的部分平台构建。
llama.cpp b12238增加OpenAI兼容 /v1/audio/speech语音接口
llama.cpp发布b12238构建,其server新增与OpenAI API兼容的 /v1/audio/speech端点,并补充端到端pytest;同时统一WAV与PCM的s16舍入方式,让 /tts与 /v1/audio/speech共用同一套请求体解析。
Hugging Face支持用Google Cloud账户支付Hub费用
Hugging Face组织可关联Google Cloud账户,将订阅、按量计算和存储费用并入现有云账单;订阅需经Hugging Face团队审核后生效。
Hugging Face为决策模型制定统一接口,Transformers与llama.cpp新增 /v1/systemone端点
Hugging Face在博客中介绍“决策模型”:输入上下文和若干带预设答案的问题,直接返回每个答案的概率分布,不生成文本。Transformers新增DecisionPipeline等类并支持本地 /v1/systemone服务,llama.cpp也支持同一端点。
llama.cpp b12237支持Gemma 4音频输入流,修正实时嵌入仅限音频生成
llama.cpp发布b12237版本,mtmd新增对Gemma 4输入音频流的支持,采用 480ms步长;同时服务端把实时嵌入限制为仅用于音频生成,避免带音频流的聊天模型在首批音频行上报错中止。
litellm发布 1.108.4 LTS:修复Bedrock、Vertex AI与 /v1/messages的若干错误
litellm-release[bot] 在GitHub发布说明中称,1.108.4 是LTS版本,包含 10 个PR、7 项修复和 1 项变更,升级不需要额外操作;lts镜像标签始终指向最新的LTS补丁版本。
llama.cpp发布b12236,mtmd新增mtmd_helper_resampler
llama.cpp在b12236版本中为mtmd模块加入mtmd_helper_resampler,并同步更新文档、添加测试,发布macOS、Linux、Windows、Android等多平台预编译包。
中大本科生开源BLA反制AI逆向工具:加固后Token消耗最高增2800倍
中山大学软件工程专业大三学生Timo Zhang发布开源项目BLA,通过投毒、触发分析器上限和诱导误判三步,让AI逆向Agent分析加固后软件时Token消耗暴增。作者测试显示13项对照中7项报错或被拒,估算成本约为加固前的300至2800倍。
LangChain发布langchain-fireworks 1.7.3,修复默认max_tokens取值
版本日志显示,此次更新让Fireworks集成从模型profile数据中读取默认max_tokens,同时刷新了模型profile数据。
Claude Code v2.1.321发布:Fable 5.2成为默认模型,支持 100 万token上下文
Anthropic发布的Claude Code更新将claude-fable-5-2设为默认Fable模型,定价为每百万token输入 8 美元、输出 40 美元,缓存读取每百万token 0.20美元;同时修复了多项权限与沙箱问题,并调整了Remote Control的 --settings行为。
llama.cpp b12233将外部PLE文件改为 --shard加载
该版本把独立的外部PLE文件加载并入多分片加载路径,--ple成为 --shard的别名,两参数均接受逗号分隔列表且可多次指定;提交说明由PR #31185 作者给出。
llama.cpp发布b12230:ggml-zdnn后端接受非zDNN张量
该版本合并PR #31824,由Aaron Teo签署,改动集中在IBM zDNN后端:接受非zDNN张量,并在每一步运算后使计算张量失效。
llama.cpp b12229修复server顶层JSON schema被忽略的问题
该项目称,OpenAI兼容的chat completions端点此前只在schema嵌套在response_format.json_schema.schema内时才生效;直接传response_format.schema会被静默忽略,生成不受约束。该版本接受顶层写法,并让嵌套包装在存在时优先。
llama.cpp b12228为ggml的TRI算子补上反向传播
该版本在ggml的反向传播switch中加入GGML_OP_TRI的处理分支,此前含该算子的可训练计算图会以“unsupported ggml op for backward pass: TRI”中止;发布页同时列出各平台预编译包,macOS KleidiAI版与openEuler构建仍为禁用状态。
openai-python发布v3.48.0:新增agent会话流式选项,beta Responses识别gpt-6-rosalind
OpenAI官方Python SDK于 2026-11-09 发布 3.48.0 版本,两项功能变更分别涉及agent会话的流式选项和beta Responses接口对新模型的识别。
llama.cpp b12224发布:ggml-backend不再上传未被读取的输入
llama.cpp发布b12224版本,主要改动位于ggml-backend:停止上传“没有读取方的输入”。发布页同时列出多平台预编译包。
llama.cpp b12223为Granite架构接入NVFP4权重缩放
llama.cpp发布b12223版本,合并的改动将Granite NVFP4权重缩放接入build_ffn,并覆盖所有Granite架构。
亚马逊提出HOPE:用二阶剪枝保留MoE中协作专家组
亚马逊研究者在Hugging Face博客介绍HOPE方法,按专家两两交互而非单独打分来决定剪除哪些专家;据其报告,在Qwen3.5-35B剪除 50% 专家后,SWE-Bench Pro得 42.3,未剪枝模型为 41.8,REAP为 36.2。
llama.cpp发布b12220:Metal后端ggml_tri改用select,避免 ±inf变NaN
该版本修复了Metal内核用 0/1 比较结果相乘导致三角形外 ±inf被算成NaN的问题,改为与CPU内核一致地输出零;新增的test_tri_special覆盖四种三角形类型,据提交说明在旧内核下失败、新内核下通过。