Databricks称客户模型用量从4.2增至7.1个,约四成是开放权重
Databricks在一篇博客中称,其Unity Gateway每位客户平均使用的模型数量从今年1月的4.2个增至7.1个,其中约40%为开放权重模型;7月中旬上线的GLM 5.2在一个月内占该网关开放权重token用量的约40%。
Databricks在官方博客中称,其Unity Gateway上每位客户平均使用的模型数量从截至1月5日当周的4.2个增至截至7月27日当周的7.1个,其中约40%为开放权重模型。该数据来自Databricks内部统计,由公司方面发布。
博客由Databricks现场工程师撰写,列举企业从单一前沿模型供应商转向多模型组合的七个压力,并介绍Unity Gateway在路由、预算和治理上的功能。
Databricks列出的七项企业压力
博客称,企业在标准化使用单一前沿模型供应商两年后开始重新评估策略,原因包括:AI预算增速超过收入与成本节省,单位经济性待改善;自2023年5月以来,智能排名首位已易手20多次,绑定单一供应商的架构难以跟随排名变化。
其他压力包括:前沿模型护栏可能拒绝合法任务,博客举例称Hugging Face响应人员把真实攻击日志和漏洞利用载荷交给托管前沿模型分析时被拒,团队改用开放权重模型GLM 5.2完成分析;部分供应商调整零数据保留政策,例如Anthropic前沿层级引入30天最低保留期。
企业还希望获得对模型输入、输出、错误和智能体动作的可搜索记录与集中控制;Databricks的研究称同一模型在不同harness下得分分别为61.7%、48.1%和裸模型38.4%,因此评测应同时测试模型与harness。最后一项是开放权重模型在基准上已接近顶级前沿模型且成本更低,博客称这一点在18个月前并不成立。
Unity Gateway的用量与功能
Databricks称,GLM 5.2于7月中旬上线后,其用量上升,同期Unity Gateway客户数增长相对平稳,公司据此判断既有客户把更多AI流量转向开放权重模型;上线一个月后,GLM 5.2占该网关开放权重token用量的约40%,Databricks称其中大部分为增量。
在功能上,Unity Gateway通过统一API提供开放权重与前沿模型,支持配置或智能路由切换模型;提供回退链以应对限流或供应商故障,以及按用户、团队或用例设置预算上限,可从软警告到强制改道至更便宜模型。Databricks还称可注册外部MCP服务器和技能,并对接Amazon Bedrock、Azure AI Foundry等外部模型供应商,纳入同一治理层。
截至7月下旬,Unity Gateway上的模型(包括GLM 5.3)可在Codex和OpenCode等供应商编码harness中运行,网关为每个harness提供OpenAI兼容端点,Databricks称配置即可接入,更多harness在推进中。
融资与GPU容量
Databricks称7月宣布30亿美元融资。CEO Ali Ghodsi对CNBC表示,部分融资用于确保托管开放模型所需的GPU容量,并称在日本、韩国、美国和印度都面临GPU紧缺。