LiteLLM发布v1.103.7,修复Batches计费与Bedrock token计数回退
该版本为stable/1.103.x分支的backport,包含三项修复:Bedrock Mantle count_tokens回退、LIT-145花费追踪修复,以及Batches的P0成本、定价与转换修复;官方同时说明Docker镜像签名验证方式。
LiteLLM发布v1.103.7。根据GitHub Releases页面,三项改动都是从主线回移到stable/1.103.x的修复:Bedrock Mantle的count_tokens回退、LIT-145花费追踪修复,以及Batches的成本、定价与转换修复。发布说明将Batches一项标为“!”,但未说明具体破坏性变更。
发布说明同时给出Docker镜像的签名验证方法:镜像由cosign签名,每次发布沿用提交 0112e53引入的同一密钥。
三项回移到 1.103.x的修复
发布说明列出三个PR:#47743 将Bedrock Mantle的count_tokens回退逻辑回移到stable/1.103.x;#47763 回移LIT-145花费追踪修复,并将版本号提升至 1.103.7;#47732 回移Batches的P0成本、定价与转换修复。
Batches一项在发布说明中写作“fix(batches)!”,带感叹号标记,但来源没有展开该标记对应的不兼容改动细节。
- #47743:count_tokens的Bedrock Mantle回退逻辑
- #47763:LIT-145花费追踪修复及版本号提升
- #47732:Batches的P0成本、定价与转换修复
镜像签名验证有两种方式
发布说明称,所有LiteLLM Docker镜像均使用cosign签名,且每次发布沿用同一密钥。推荐方式是用固定提交哈希 0112e53046018d726492c814b3644b7d376029d0拉取公钥进行验证,理由是提交哈希不可篡改。
另一种方式用发布tag v1.103.7拉取公钥,更易读,但依赖仓库的tag保护规则。发布说明给出的预期输出包含cosign claims已验证、签名已对照指定公钥验证两项。
- 推荐:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/0112e53046018d726492c814b3644b7d376029d0/cosign.pub ghcr.io/berriai/litellm:v1.103.7
- 便捷:cosign verify --key https://raw.githubusercontent.com/BerriAI/litellm/v1.103.7/cosign.pub ghcr.io/berriai/litellm:v1.103.7