vLLM v0.27.0带来 561 项提交,首次实现Kimi K3的完整推理栈支持,新增多款模型,并升级至PyTorch 2.13.0(破坏性变更)。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
Transformers v5.15发布,新增Meta Muse Glimmer
新版本加入Meta的多模态模型Muse Glimmer,并更新模型加载与处理组件。
阅读全文ComfyUI v0.31.0发布:新增Wan-Animate2与SeeDance 2.5,提速LTX和Wan视频生成
ComfyUI v0.31.0已发布,新增对Wan-Animate2、SeeDance 2.5、Flux 3等模型的支持,并优化Linux内存管理、修复MiniMax音频问题。
阅读全文SGLang v0.5.17发布:day-0支持Kimi K3与MiniMax-H3,启动Rust服务端
新版本合并了来自 194 名贡献者的 582 个PR,新增对 2.8T参数多模态模型Kimi K3和视频生成模型MiniMax-H3的首日支持,并迁移部分服务端到Rust。
NVIDIA NeMo Speech 3.0发布:拆分仓库、移除80万行弃用代码,新增语音模型训练与推理功能
首个主版本聚焦技术债清理:仓库更名并聚焦语音任务,SpeechLM2支持NeMo Automodel训练,新增Nemotron VoiceChat模块,并带来流式ASR、MagpieTTS更新。
谷歌DeepMind开源WeatherNext气旋预报模型,可提前一天预测飓风路径
研究论文发表在《自然》杂志,模型在预测气旋路径、强度和风场结构方面达到最优水平,相当于提前一天预警。
vLLM v0.26.0发布:新增Inkling模型支持,并针对DeepSeek-V4及多硬件进行性能优化
新版本包含 411 个提交,来自 212 位贡献者,其中 61 位是首次贡献者。重点包括对Inkling模型家族的完整支持、针对DeepSeek-V4的专项优化、fp32 lm_head精度改进,以及KV卸载和分层二级存储的成熟。
SGLang v0.5.16发布:新增DSpark投机解码与 975B Inkling模型支持
SGLang v0.5.16合并 574 个PR,引入置信度驱动的DSpark投机解码算法、对 975B参数多模态MoE模型Inkling的支持,并默认启用UnifiedRadixTree。
Hugging Face Transformers发布v5.14.1补丁,修复Inkling模型集成问题
该补丁修复了引入Inkling模型后出现的几个问题,包括辅助生成与预填充阶段的缓存和位置偏置相关缺陷。
Transformers v5.14发布,加入Inkling模型适配
新版本新增Thinking Machines的Inkling模型支持,并合并多项社区贡献。
vLLM发布v0.25.1补丁:修复FFmpeg缺失导致的启动阻塞及混合精度RMSNorm量化融合错误
vLLM v0.25.1作为v0.25.0的补丁版本,包含两项针对性bug修复:系统缺少FFmpeg时TorchCodec不再阻塞模型启动;混合精度(如BF16激活与FP32权重)的allreduce+RMSNorm+量化融合路径被引导至安全路径,避免输出乱码。
SGLang发布v0.5.15.post1补丁版本,主要修复GLM 5.2相关功能
该补丁版本主要修复GLM 5.2在PD分离和上下文并行设置下的IndexShare问题,以及若干非CUDA/HIP设备启动和FP4 MoE内核NaN输出问题。
vLLM v0.25.0发布:MRv2成为所有稠密模型默认执行路径,删除PagedAttention
新版本包含 558 个提交,新增LLaVA-OneVision-2、Unlimited OCR等模型,Transformers后端性能追平原生vLLM,并强化流式解析引擎。
Hugging Face发布Transformers v5.13.1补丁,兼容最新版vLLM
该补丁修复了自定义模型代码与新线性层类型命名不兼容等问题,以确保transformers能配合最新版vLLM运行。
Transformers v5.13发布,扩展Kimi K2.5、K2.6与K2.7
新版本增加多代Kimi K系列模型支持,并完善相应配置与推理代码。
LlamaIndex发布v0.14.23:新增多模态查询引擎与文档块支持
核心库llama-index-core 0.14.23引入多模态合成与多模态查询引擎,并修复多项分割器递归错误及元数据过滤问题。
Hugging Face Transformers v5.12.0发布:新增MiniMax-M3-VL、PP-OCRv6与Parakeet-RNNT模型支持
该版本由社区贡献者推动,主要扩充了多模态视觉语言模型、轻量级OCR系统和语音识别模型,并包含多项bug修复与CI改进。
Transformers v5.11发布,新增DiffusionGemma支持
新版本加入DiffusionGemma等模型架构,并更新生成与推理相关实现。
Transformers v5.10.1修复发布分支问题
v5.10.0因发布分支损坏被撤回,维护团队随后发布v5.10.1修复版本。
Transformers v5.9发布,加入Cohere2MoE Command A+
新版本新增Cohere2MoE Command A+等模型架构支持,并继续完善推理兼容性。
LlamaIndex发布v0.14.22:核心库新增多模态合成功能
此次更新为llama-index-core引入实验性多模态合成能力,并修复多项与缓存、内存及事件处理相关的问题。
Transformers v5.8发布,新增DeepSeek-V4支持
新版本加入DeepSeek-V4等模型适配,并更新多项模型加载与推理能力。
Transformers v5.7发布,新增Laguna等模型支持
新版本扩展了模型架构支持,并补充相关加载、推理与兼容性实现。
NVIDIA NeMo发布 2.7.3 补丁版:修复安全问题并移除实验性组件
NVIDIA于 2 月 5 日发布NeMo 2.7.3,主要修复已知安全漏洞,同时移除实验性sclite文件和import_hf.py中废弃参数;该版本基于r2.7.0分支。
LlamaIndex v0.14.21:核心库修复文档删除与结构化输出错误,NVIDIA嵌入新增HTTP客户端
2026 年 4 月 21 日发布,修复DocumentSummaryIndex删除节点KeyError、结构化输出异常及UTF-8编码问题。
NVIDIA NeMo语音工具包发布 2.7.2,修复numba-cuda与cuda-python安装问题
NVIDIA于 2025 年发布NeMo Speech 2.7.2补丁版本,修复numba-cuda和cuda-python的安装及使用问题。
NVIDIA NeMo发布 2.7.1,修复CUDA图中cuda-python用法
修复由 @ko3n1g提出的ASR组件问题,对应PR #15471
NVIDIA NeMo 2.7.0发布:新增流式语音翻译与逐流短语增强,未来版本将专注语音任务
NVIDIA发布NeMo 2.7.0,新增逐流短语增强(Per-Stream Phrase Boosting)和流式语音翻译支持,并发布了两款新模型;同时宣布 2.8.0 起移除LLM、NLP等集合,仓库将只保留语音相关任务。
NVIDIA发布NeMo 2.6.2,修复已知安全问题并收紧PyTorch权重加载配置
该版本移除了weights_only=False并明确要求torch>=2.6.0,同时更新了音频Notebook中的SDE教程与导入。
百度开源ERNIE-4.5-VL-28B-A3B-Thinking多模态模型,3B激活参数支持图像思考与工具调用
模型采用MoE架构,仅激活30亿参数,在视觉推理、STEM推理等任务上接近旗舰模型表现,并新增Think with Image模式,可自主调用图像放大与搜索工具。
