LiteLLM发布v1.104.4:修复护栏设置、团队级批处理模型访问与token计数
LiteLLM v1.104.4在stable/1.104.x分支上回移多项修复,涉及护栏配置加载、代理的团队级批处理模型访问、Google请求兼容性和旧版token计数优先级。
AI解读:这次发布是 1.104.x稳定分支上的修复版本,五项变更中四项由mateo-berri或joshua-berri回移,一项由devin-ai-integration机器人提交,适合已经在 1.104 线上部署、暂不升级大版本的用户。
涉及token计数的两项修复针对stable/1.104.x:一项回移 10 月 19 日的修复,另一项恢复Google请求兼容性;此外还恢复了旧版token计数输入的优先级。发布说明没有给出这些修复对应的具体错误表现或受影响接口。
发布说明称所有LiteLLM Docker镜像都用cosign签名,并沿用commit 0112e53引入的同一密钥;官方推荐用固定commit哈希校验,因为标签方式依赖仓库的标签保护规则。
LiteLLM发布v1.104.4,这是stable/1.104.x分支上的修复版本,共列出五项变更。
变更包括:恢复supported_decisions_providers以使Add Guardrail设置能够加载;将团队级批处理模型访问(#47067)回移到stable/1.104.x;回移 10 月 19 日的token计数修复;恢复Google请求兼容性;恢复旧版token计数输入优先级。
五项修复的归属与分支
护栏修复由devin-ai-integration机器人提交(PR #45935),目标是恢复supported_decisions_providers,让Add Guardrail设置能够加载。其余四项由mateo-berri和joshua-berri提交,均标记为对stable/1.104.x的回移或恢复。
- 团队级批处理模型访问修复对应上游PR #47067,以回移方式进入v1.104.4。
- token计数相关有两项:回移 10 月 19 日的修复,以及恢复Google请求兼容性。
- 另有一项恢复旧版token计数输入优先级,由joshua-berri提交。
Docker镜像签名校验
发布说明称,所有LiteLLM Docker镜像都用cosign签名,每次发布沿用commit 0112e53引入的同一密钥。官方给出两种校验方式:用固定commit哈希解析公钥,或用发布标签解析公钥。说明称commit哈希不可篡改,是确保使用原始签名密钥的最强方式;标签方式更易读,但依赖仓库的标签保护规则。
- 校验命令为cosign verify,目标镜像为ghcr.io/berriai/litellm:v1.104.4。
- 发布说明给出的预期输出包括cosign claims已验证、签名已对照指定公钥验证。
- 完整变更对比链接为v1.104.3...v1.104.4。