litellm发布 1.108.4 LTS:修复Bedrock、Vertex AI与 /v1/messages的若干错误
litellm-release[bot] 在GitHub发布说明中称,1.108.4 是LTS版本,包含 10 个PR、7 项修复和 1 项变更,升级不需要额外操作;lts镜像标签始终指向最新的LTS补丁版本。
litellm-release[bot] 在GitHub发布litellm 1.108.4(LTS)发布说明,称该版本包含 10 个PR,其中 7 项修复、1 项变更,升级不需要采取额外操作。
发布说明称,lts镜像标签始终指向最新的LTS版本,拉取ghcr.io/berriai/litellm:lts即可保持在新LTS补丁上;并给出的cosign验证命令同样适用于litellm-database、litellm-non_root以及docker.io/litellm/* 镜像。
Bedrock与Vertex AI的修复
发布说明列出与Bedrock相关的两项改动。一项是修复:当对话携带Claude的签名思考时,GLM、GPT-6 Luna和Nova 2在Bedrock上返回 400 错误(#50399)。另一项是行为变更:/bedrock透传路由改为强制执行模型自身的guardrailConfig,其优先级高于调用方传入的任何guardrail(#47429)。
Vertex AI与Gemini方面,发布说明称修复了Vertex AI Claude批次在创建时因 404 失败的问题(#50365)。
Messages API、视频轮询与SDK
在Messages API上,chatgpt/模型在 /v1/messages上不再在各轮之间丢失加密推理内容(#50456)。/v1/messages转发到OpenAI时不再向上游发送background: true;发布说明称,该参数会导致完整运行被计费,而返回结果为空(#50462)。
嵌入、图像与音频接口方面,发布说明称修复了 /v1/videos轮询在使用按模型区分的密钥时失败,或命中错误提供商账户并返回 404 的问题(#44614)。
路由与回退方面,发布说明称修复了团队密钥由代理级通配符而非该团队自身的BYOK通配符部署来提供服务的问题(#48490)。SDK方面,修复了基础安装下completion()、responses() 以及带工具的messages报 “No module named 'mcp'” 错误,发布说明称该问题自v1.106.0起存在(#45961)。