LiteLLM发布v1.106.0-dev.2,新增Decisions端点与cosign镜像验签说明
该开发版本将 /v1/decisions与 /v1/systemone作为独立端点提供,并为Docker镜像附上基于固定commit哈希的cosign验签命令;发布说明同时列出大量修复与重构条目。
LiteLLM发布v1.106.0-dev.2。发布说明的主要内容之一是Docker镜像验签:所有LiteLLM Docker镜像用cosign签名,且每个版本使用commit 0112e53引入的同一把密钥。
说明给出两条验签命令:推荐用固定commit哈希 0112e53046018d726492c814b3644b7d376029d0拉取cosign.pub,或用标签v1.106.0-dev.2拉取同一公钥;后者被描述为更易读,但依赖标签保护规则。
本次新增的Decisions端点
发布说明列出的变更中包含Decisions相关的新增:以共享decisions格式提供 /v1/systemone(System One格式)和 /v1/decisions(OpenAI格式),并把OpenAI加入为Decisions提供商,走共享HTTP处理与provider配置。
- feat(decisions): serve System One format at /v1/systemone and OpenAI format at /v1/decisions
- feat(decisions): add OpenAI as a Decisions provider behind a shared decisions format
- refactor(decisions): dispatch /v1/decisions through provider configs and the shared HTTP handler
- feat(decisions): add the OpenAI Decisions spec types and the System One translation
发布说明列出的其他变更方向
其余条目按模块分布,涉及Azure、Bedrock、Anthropic、Vertex AI、Ollama、MCP、代理与路由、缓存、可观测性、Lens以及测试结构。发布说明以PR链接形式逐条列出,未给出各项的合并时间或影响范围。
- provider调整:Azure的claude-opus-5-5 / sonnet-5-5日期与限值、Bedrock的GovCloud OpenAI价格与GPT-6 Astra层级、Anthropic与Vertex AI的haiku-5-5 / sonnet-5-5价格和标志位
- 代理与路由:v3限流器可选Redis hash-tag分组、新增denied_passthrough_routes拒绝列表、为自定义透传端点提供拒绝名单、MCP全操作限流与服务器级rpm
- Ollama:把流式prompt型JSON工具调用转为真实工具调用、统一流id、非文本工具内容返回 400
- Lens:把摄取与调查隔离到Rust服务、按优先级展示发现、把trace关联到发起会话、在ClickHouse存储终端用户反馈
- 可观测性与测试:为端到端延迟指标增加model_group标签、把 126 个混合旧文件中的单元测试部分移入tests/unit、删除 73 个旧测试