开源litellm Releases·原文 2026年11月11日

LiteLLM发布v1.109.0:Docker镜像改用cosign签名,聊天补全支持流式回退续接

该版本发布说明列出多项标记为破坏性变更的修复,包括代理计费、回调删除与Bedrock流式守卫行为;同时新增豆包视频生成、Chat UI默认开启等特性。

AI解读:LiteLLM v1.109.0的Docker镜像继续用cosign签名,签名密钥由提交e82a3c6引入。发布说明建议用固定提交哈希校验公钥,因为哈希不可篡改;也可用受保护的发布标签校验,但后者依赖标签保护规则。

版本包含一项路由特性:聊天补全支持流中途回退续接(mid-stream fallback continuation)。另有豆包Seedance视频生成通过OpenAI /v1/videos接口接入。

多处改动在发布说明中被标记为破坏性变更(带感叹号),涉及代理的token计数、会话ID归属、回调删除、Bedrock流式响应,以及MCP ID-JAG凭证的资源限制等。

发布说明还列出大量成本计费修复与测试补充(如Grok推理token、Gemini上下文管理、缓存命中零成本上报)和UI调整(Chat UI默认开启、playground改版)。这些条目为维护者自述,未见独立验证。

LiteLLM发布v1.109.0。发布说明称,所有Docker镜像都用cosign签名,本版本使用提交e82a3c6引入的密钥。文档建议用固定提交哈希拉取公钥进行校验,理由是哈希不可篡改;也可改用v1.109.0标签校验,但说明指出这种方式依赖仓库的标签保护规则。

签名校验方式与限制

发布说明给出两种cosign校验命令,目标镜像均为ghcr.io/berriai/litellm:v1.109.0,区别只在公钥地址:一种指向提交e82a3c646908ba0a6ee0beddc4310d7a6cac4065下的cosign.pub,另一种指向v1.109.0标签下的cosign.pub。

说明把前者称为“推荐”方式,因为提交哈希在密码学上不可变;后者更易读,但有效性取决于标签保护规则是否生效。期望输出为cosign声明通过验证、签名与指定公钥匹配两项检查。

版本中的功能新增与破坏性变更

发布说明的功能列表包含:路由层为聊天补全加入流中途回退续接;通过OpenAI /v1/videos接口接入火山引擎豆包Seedance视频生成;Chat UI默认开启;playground聊天界面围绕单一输入框与检查器重做;MCP网关令牌端点接受ID-JAG作为RFC 7523 jwt-bearer授权;SSO登录时保留Microsoft/Google的id_token与SAML断言,供oauth2_id_jag使用。

多条改动在标题中带感叹号,表示破坏性变更,涉及:设置call_endpoint时按提供商计费仅提示词的token_counter请求;spend日志改用调用方的litellm_session_id;删除配置在callbacks或failure_callback下的回调;Bedrock透传流式帧改走post_call守卫而非缓冲;MCP ID-JAG凭证按签名资源声明设上限并拒绝网关不提供的资源;Terraform组件镜像默认使用模块发布标签。

计费与成本映射的修复

发布说明列出多项与成本相关的修复:Azure AI上Grok推理token不论部署名称均计费;桥接的 /v1/messages Responses回复按原生 /v1/responses计费推理token与服务层级;缓存命中在V1/V2 span中以零成本并带命中标志上报;精确成本映射名称优先于无价格的能力规则。成本映射新增together_ai的Reflection/Beam-1.0-501B-A23B、baseten与nebius对应条目、DeepInfra的DeepSeek-V4.1-Flash系列,以及从Copilot价目表回填github_copilot价格;LITELLM_MODEL_COST_MAP_URL现支持s3:// URI,urlsplit拒绝该URL时回退到内置映射。

上述均为发布说明中的维护者描述,未附公开效果数据。

信息来源

litellm Releases原始来源