开源litellm Releases·原文 2026年10月21日

LiteLLM发布v1.103.7,修复Batches计费与Bedrock token计数回退

该版本为stable/1.103.x分支的backport,包含三项修复:Bedrock Mantle count_tokens回退、LIT-145花费追踪修复,以及Batches的P0成本、定价与转换修复;官方同时说明Docker镜像签名验证方式。

LiteLLM发布v1.103.7。根据GitHub Releases页面,三项改动都是从主线回移到stable/1.103.x的修复:Bedrock Mantle的count_tokens回退、LIT-145花费追踪修复,以及Batches的成本、定价与转换修复。发布说明将Batches一项标为“!”,但未说明具体破坏性变更。

发布说明同时给出Docker镜像的签名验证方法:镜像由cosign签名,每次发布沿用提交 0112e53引入的同一密钥。

三项回移到 1.103.x的修复

发布说明列出三个PR:#47743 将Bedrock Mantle的count_tokens回退逻辑回移到stable/1.103.x;#47763 回移LIT-145花费追踪修复,并将版本号提升至 1.103.7;#47732 回移Batches的P0成本、定价与转换修复。

Batches一项在发布说明中写作“fix(batches)!”,带感叹号标记,但来源没有展开该标记对应的不兼容改动细节。

  • #47743:count_tokens的Bedrock Mantle回退逻辑
  • #47763:LIT-145花费追踪修复及版本号提升
  • #47732:Batches的P0成本、定价与转换修复

镜像签名验证有两种方式

发布说明称,所有LiteLLM Docker镜像均使用cosign签名,且每次发布沿用同一密钥。推荐方式是用固定提交哈希 0112e53046018d726492c814b3644b7d376029d0拉取公钥进行验证,理由是提交哈希不可篡改。

另一种方式用发布tag v1.103.7拉取公钥,更易读,但依赖仓库的tag保护规则。发布说明给出的预期输出包含cosign claims已验证、签名已对照指定公钥验证两项。

  • 推荐:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/0112e53046018d726492c814b3644b7d376029d0/cosign.pub ghcr.io/berriai/litellm:v1.103.7
  • 便捷:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/v1.103.7/cosign.pub ghcr.io/berriai/litellm:v1.103.7

信息来源

litellm Releases原始来源