LiteLLM发布v1.107.0-dev.3,新增MiniMax-H3视频生成与gemini-4-argon长解码自动续跑
该开发版本在 /v1/videos加入MiniMax-H3和H3-Max视频生成,为Gemini长解码引入continuationToken自动续跑,并修复Anthropic签名空思考块、代理gzip与审计日志null值等问题;Docker镜像继续用cosign签名。
LiteLLM发布v1.107.0-dev.3。发布说明由litellm-dispatcher[bot] 发布,列出了本版本合并的改动清单。
新增能力包括:通过 /v1/videos接入MiniMax-H3和H3-Max视频生成;xAI的grok语音实时会话纳入计费;对gemini-4-argon的长解码以continuationToken自动续跑(该条目标注了破坏性变更标记)。
修复与改进覆盖Anthropic签名空思考块在 /v1/messages请求与重放中的保留、代理对超过 16 KiB响应的gzip处理移出事件循环、审计日志值中JSON null保持为null、未知密钥返回通用 401、/spend/tags聚合限定到调用者自身及获授权团队的日志等。
Docker镜像签名与验证方式
发布说明称所有LiteLLM Docker镜像均使用cosign签名,每次发布沿用在commit 0112e53中引入的同一密钥。
验证提供两种方式:用固定commit哈希(推荐,哈希不可变)或使用release tag(标签受仓库保护,解析到同一密钥)。命令为cosign verify --key <对应cosign.pub地址> ghcr.io/berriai/litellm:v1.107.0-dev.3。
本版本新增能力
发布说明列出的新增项包括:MiniMax-H3与H3-Max视频生成(通过 /v1/videos)、grok语音实时会话计费、Databricks Agent Platform代理接入agent gateway、Inference APIs作为OpenAI兼容provider、Rust原生OpenRouter Responses、批量任务每行请求与响应存入S3和GCS、按团队拆分Azure PTU部署并设置每团队PTU上限与PTU小时报告、UI中按查询设置搜索工具成本、Helm暴露Redis TLS设置与数据库IAM/Azure Entra令牌认证、Terraform只写secret属性避免写入state。
修复与调整要点
修复项包括:将流式thinking_blocks建立索引以便OpenAI SDK .stream() 累加器接受;代理gzip超过 16 KiB的响应改为离开事件循环处理;审计日志值中的JSON null保持为null;未知密钥返回通用 401;/spend/tags聚合限定到调用者自身及获授权团队的日志;Anthropic适配器停止修改调用方的input_schema;Vertex不可读凭据文件报为读取失败;Bedrock 404时回退到Mantle统计token;上传对象键文件名有界;MCP保留进度并及时取消上游工作。
另有回退:撤销此前添加LITELLM_FIPS_MODE启动门控的改动(PR #42700)。