开源litellm Releases·原文 2026年10月15日

LiteLLM发布v1.107.0-dev.1,新增Microsoft 365 Copilot与Databricks ai_decide provider

该预发布版本在changelog中列出的变更包括:不再把调用方的LiteLLM key转发给MCP服务器、为GitHub Copilot增加按用户的OAuth连接、代理按HTTP状态码和调用方跟踪失败请求,并在Usage中新增Errors标签页。

AI解读:LiteLLM发布v1.107.0-dev.1,这是带dev后缀的预发布版本,可用镜像标签为ghcr.io/berriai/litellm:v1.107.0-dev.1。

版本说明把Docker镜像签名验证放在开头,称所有LiteLLM Docker镜像都用cosign签名,且每个release使用commit 0112e53引入的同一把密钥;文档建议用固定commit hash验证,并给出对应cosign verify命令与预期输出。

变更列表中包含多个新provider接入:Microsoft 365 Copilot chat provider(带OAuth token exchange)、hosted_vllm、Databricks ai_decide作为 /v1/decisions provider与auto-router decider,以及azure_ai/Microsoft-Decision-1。

与凭据和权限相关的改动包括:修复mcp不把调用方的LiteLLM key转发给MCP服务器、为GitHub Copilot凭据增加按用户的GitHub OAuth连接、允许代理管理员授予团队管理员提高本团队预算的权限、以及按团队要求LLM、MCP和agent请求带trace ID。

可观测性方面,新增按HTTP状态码和调用方跟踪失败请求,并在Usage中增加Errors标签页,展示失败率、状态和身份细分;成本映射方面删除OpenRouter行(分 5 部分)并修正多项模型价格与退役日期。

LiteLLM发布v1.107.0-dev.1,发布说明由litellm-dispatcher[bot] 在GitHub Releases页面署名。该版本为dev预发布,镜像标签为ghcr.io/berriai/litellm:v1.107.0-dev.1。

镜像签名验证方式

发布说明开头列出Docker镜像签名验证步骤,称所有LiteLLM Docker镜像都使用cosign签名,每个release使用commit 0112e53引入的同一把密钥。

文档给出两种验证方式:推荐用固定commit hash(被称为密码学上不可变、最可靠),也可用release tag(更易读,但依赖仓库的tag保护规则)。两种方式都执行cosign verify,并指向对应版本的cosign.pub。预期输出为cosign claims已校验、签名已用指定公钥验证。

  • 推荐命令使用 --key https://raw.githubusercontent.com/BerriAI/litellm/0112e53046018d726492c814b3644b7d376029d0/cosign.pub
  • 便捷命令使用 --key https://raw.githubusercontent.com/BerriAI/litellm/v1.107.0-dev.1/cosign.pub
  • 验证目标镜像为ghcr.io/berriai/litellm:v1.107.0-dev.1

新增provider与decisions相关接口

变更列表显示新增多个provider或模型接入:feat(microsoft_365_copilot) 添加Microsoft 365 Copilot chat provider,并带OAuth token exchange;feat(decisions) 添加hosted_vllm provider;feat(decisions) 添加Databricks ai_decide作为 /v1/decisions provider和auto-router decider;feat(azure) 添加azure_ai/Microsoft-Decision-1,并在decisions API上支持Microsoft-Decision-1。

定价与成本映射同步更新,包括添加github_copilot/claude-haiku-5.5、添加azure_ai/Cohere-Embed-V5-Fast与Cohere-Embed-V5-Pro、以及remove openrouter rows的第 1 至第 5 部分。

  • Microsoft 365 Copilot provider由 @yassin-berriai提交(PR 45158)
  • hosted_vllm provider由 @devin-ai-integration[bot] 提交(PR 45501)
  • Databricks ai_decide由 @mateo-berri提交(PR 45200)
  • azure_ai/Microsoft-Decision-1由 @berriai-litellm-provider-info-sync[bot] 提交(PR 45639)

凭据、权限与可观测性改动

修复项包含安全与权限相关条目:fix(mcp) 不再把调用方的LiteLLM key转发给MCP服务器;feat(github_copilot) 为Copilot凭据增加按用户的GitHub OAuth连接;feat(teams) 允许代理管理员授予团队管理员提高本团队预算的权限;feat(proxy) 要求按团队对LLM、MCP和agent请求携带trace ID。

可观测性方面,feat(proxy) 按HTTP状态码和调用方跟踪失败请求,feat(ui) 在Usage中增加Errors标签页,展示失败率、状态和身份细分。另有UI改动:Anthropic凭据的公开JWKS展示、团队别名的显示与清除、guest邮箱地址可用于成员表单。

  • fix(mcp) 不转发调用方LiteLLM key由 @joshua-berri提交(PR 45401)
  • GitHub Copilot按用户OAuth由 @yassin-berriai提交(PR 45241)
  • 代理失败请求跟踪由 @yassin-berriai提交(PR 45244)
  • Usage Errors标签页由 @yassin-berriai提交(PR 45396)

模型价格与退役日期修正

成本映射与价格条目包含多项修正:registry audit 2026-10-09涉及together qwen3.7-max价格与azure kimi-k2.7-code退役;给两条together_ai行加上 2026-10-22 的deprecation_date;修正Bedrock Titan和Nova 2 Lite价格、新增Nova Premier、清除被撤回的Together日期;为无区域前缀的Kimi K2.5和K2 Thinking行按us-east-1 Bedrock价格映射定价。

另有条目加入openai gpt-rosalind-discovery到成本映射(来自定价页),以及把hosted_vllm等decisions provider的测试用例补充进测试套件。

  • registry audit 2026-10-09涉及together qwen3.7-max价格与azure kimi-k2.7-code退役(PR 45595)
  • two together_ai rows加deprecation_date 2026-10-22(PR 45657)
  • Bedrock Titan/Nova 2 Lite价格修正与Nova Premier新增(PR 45793)
  • openai gpt-rosalind-discovery加入成本映射(PR 45653)

测试与CI重组

发布说明中大量条目属于测试和CI重组,由 @yuneng-berri、@devin-ai-integration[bot] 等提交:将离线router、retry、latency、logging、secret manager、provider、proxy auth、hook、spend、pass-through、anthropic prompt caching、路由、缓存、callback等测试从local_testing或遗留目录迁移到tests/unit;修复CircleCI、GHA和Buildkite上过期与flaky的测试;CI结束时完成lint、unit和smoke check布局;在每条CircleCI流水线运行所有build_and_test作业。

perf(ci) 条目按 @yuneng-berri的说法隔离并对integration套件分片(PR 44146);test(mcp) 使scope-discovery服务器别名仅用数字(PR 45675)。

  • 测试迁移到tests/unit涉及多个目录和套件(PR 45551、45554、45568、45616 等)
  • CI布局调整由 @devin-ai-integration[bot] 提交(PR 45706)
  • perf(ci) 隔离并分片integration套件(PR 44146)

信息来源

litellm Releases原始来源