litellm发布 1.108.3 LTS:修复Bedrock空api_base、MCP大结果与护栏重复调用
BerriAI在GitHub发布litellm 1.108.3 LTS,共 11 个PR、3 项修复;发布说明称无需额外操作即可升级,lts镜像标签会指向最新LTS补丁。
AI解读:litellm 1.108.3是LTS版本,发布说明称共 11 个PR、3 项修复,升级无需额外操作。
三项修复分别涉及:AWS Bedrock部署在api_base为空字符串时所有请求返回 500 或 400;MCP工具结果超过 1 MiB时报SSE流错误;模型级post_call护栏重复检查响应并两次调用审核提供方。
发布说明提到MCP问题自v1.103.0起存在;官方给出cosign验证命令,并说明同样适用于litellm-database、litellm-non_root和docker.io/litellm/* 镜像。
升级方面,发布说明建议用lts镜像标签跟踪最新LTS补丁版本。以上均为发布方说明,来源未提供第三方复现或测试数据。
BerriAI发布litellm 1.108.3 LTS版本,发布说明称该版本包含 11 个PR、3 项修复,升级无需额外操作。
修复内容包括:AWS Bedrock部署在api_base为空字符串时所有请求失败(返回 500 或 400);MCP工具结果超过 1 MiB时出现SSE错误(自v1.103.0起存在);模型级post_call护栏重复检查响应并两次调用审核提供方。
三项修复的具体范围
发布说明列出三项变更。第一项针对AWS Bedrock:当部署配置中api_base为空字符串 "" 时,每个请求都会失败并返回 500 或 400(#50449)。
- AWS Bedrock:修复api_base为 "" 时全部请求失败的问题(#50449)。
- MCP:修复工具结果超过 1 MiB时以“SSE stream ended without a response”失败的问题,该问题在v1.103.0之后出现(#47034)。
- Guardrails:修复模型级post_call护栏对每个响应检查两次、并两次调用审核提供方的问题(#50463)。
镜像与校验方式
发布说明称,lts镜像标签始终指向最新的LTS版本,拉取ghcr.io/berriai/litellm:lts即可停留在最新LTS补丁。
发布页同时给出cosign验证命令,并说明该命令同样适用于litellm-database、litellm-non_root以及docker.io/litellm/* 镜像。
- lts标签指向最新LTS补丁版本。
- 发布说明提供cosign verify命令用于校验发布的镜像。
- 验证方式同样适用于litellm-database、litellm-non_root及docker.io/litellm/* 镜像。