litellm发布 1.108.5 LTS,修复ollama_chat并行工具调用索引与OpenAI无密钥部署 401 等问题
BerriAI的litellm发布LTS补丁版 1.108.5,共合并 5 个PR、修复 4 项问题;发布说明称升级无需额外操作,lts镜像标签始终指向最新LTS补丁。
BerriAI的litellm发布 1.108.5(LTS)补丁版本。发布说明称该版本包含 5 个PR、修复 4 项问题,升级无需额外操作。
发布说明同时提示,镜像标签lts始终指向最新的LTS补丁版本,拉取ghcr.io/berriai/litellm:lts即可保持在新LTS版本上。
1.108.5 修复的四项问题
发布说明按模块列出了本次修复:OpenAI无密钥workload identity部署在图像编辑、音频、文件、批处理及其他路由上返回 401(#50962);ollama_chat/流式响应给每个并行工具调用都分配索引 0,导致客户端只执行第一个调用(#50718)。
Messages API方面,/v1/messages对deployment的additional_drop_params中已列出的参数返回 400,该问题已修复(#50755)。成本跟踪与定价方面,部分FLAC文件的转写成本计算错误,可能把密钥推过预算上限,该问题也已修复(#50860)。
- OpenAI:无密钥workload identity部署的多条路由 401 已修复(#50962)
- ollama_chat/:并行工具调用索引均被置为 0,客户端只跑第一个调用(#50718)
- /v1/messages:additional_drop_params中已列参数不再触发 400(#50755)
- 成本跟踪:部分FLAC转写成本计算错误,可能使密钥超预算(#50860)
镜像标签与校验方式
发布说明称lts镜像标签始终指向最新的LTS版本,并给出校验示例:使用cosign和指定公钥对ghcr.io/berriai/litellm:v1.108.5执行verify;同一命令适用于litellm-database、litellm-non_root以及docker.io/litellm/* 镜像。