开源litellm Releases·原文 2026年10月15日

LiteLLM发布v1.107.0-dev.2,含多项代理、路由与Anthropic修复

该开发版本更新了Docker镜像签名验证说明,并合入数十项功能与修复,涉及proxy权限范围、Anthropic桥接、Redis超时与成本映射等。

LiteLLM发布v1.107.0-dev.2。发布说明显示,该版本为开发版,Docker镜像使用cosign签名,说明建议用固定的commit哈希(0112e53)而非发布标签来验证签名,并给出对应的cosign verify命令与预期输出。

Docker镜像签名验证方式

发布说明称,所有LiteLLM Docker镜像都使用cosign签名,每个版本都使用commit 0112e53046018d726492c814b3644b7d376029d0引入的同一密钥。

验证方式有两种:使用固定的commit哈希被描述为最强的验证方式,因为commit哈希在密码学上不可变;使用发布标签更方便,但依赖仓库的标签保护规则。文档给出了针对ghcr.io/berriai/litellm:v1.107.0-dev.2的cosign verify命令,并列出预期输出为cosign声明已验证、签名已用指定公钥验证。

本版功能与修复

发布说明列出数十项改动。proxy方面,把 /global/activity/cache_hits分析限定为调用者自己及获授权团队的日志;SSO在创建会话前拒绝空身份;配置中的空环境变量值被视为未设置,以避免代理崩溃循环或静默丢弃guardrail;健康检查接口接受所有已知的日志回调。

路由与缓存方面,新增fallback_on_unsupported_params选项,让参数被拒时可以抛出而非回退;Redis客户端在未设置时默认 5 秒socket超时;Redis Cluster命令改为等待连接池槽位而非触发熔断;响应缓存命中时报告response_cost为零。

Anthropic与Bedrock相关包括:在 /v1/messages到Responses的桥接上缓存工具结果截图;在chat completions、/v1/messages等路径转发service_tier;在日志响应中保留拒绝stop_reason与stop_details;流式分块包含多个工具调用时每次只发出一个tool_use块;在Converse上重放redacted_thinking等。

  • 新增DashScope的Wan 3.0、Wan 2.7与HappyHorse视频生成支持,通过 /v1/videos调用
  • 新增Airia guardrail集成,并加入Guardrail Garden界面
  • 成本映射新增scx-ai的DeepSeek-V4.1-flash、GLM-5.3和Kimi-K3,并删除azure_ai/claude-fable-5-5
  • xAI grok-voice-3.0、grok-voice-2.0和grok-voice-latest新增realtime价格行
  • Helm chart支持从Kubernetes Secret读取数据库与Redis主机或URL,并支持组件化部署中每个组件使用独立主机名
  • 新增general_settings.disable_requester_ip_address_logging,让调用方IP不写入花费日志
  • 新增proxy部署警告端点,支持实例级忽略与稍后提醒

新贡献者与版本链接

发布说明列出六位首次贡献者及其对应PR:@airia-open-source(#40784)、@matthowardcohere(#46274)、@adityajoy-1902(#42079)、@Apeksha9389(#46471)、@hyamie(#46594)、@narmstrong-berri(#46492)。完整变更日志链接指向v1.107.0-dev.1与v1.107.0-dev.2的对比页面。

信息来源

litellm Releases原始来源