英伟达发布Vera CPU,称在百兆瓦数据中心对比中吞吐与能效均超x86
英伟达博客称,在 100 兆瓦数据中心的对比中,单颗Vera CPU同时优于最快的x86 CPU和最节能的x86 CPU:前者每瓦支持的智能体数量多 1.6 倍,后者智能体速度快 2 倍。Perplexity、DeepInfra等六家早期用户公布了测试数据,但均来自厂商合作测试。
AI解读:英伟达希望回答的问题,是AI智能体任务中CPU执行环节的速度与并发容量能否在一颗芯片上同时满足。它称Vera兼顾了两者,使基础设施提供商不必再混搭偏重速度或偏重密度的x86产品。
这一判断的适用范围有明确边界:英伟达给出的对比基准是 100 兆瓦数据中心的功耗约束,比较对象是“最快的x86 CPU”和“最节能的x86 CPU”两类芯片,Vera的 1.6 倍每瓦智能体数量和 2 倍智能体速度分别对应这两类对象,并非对同一款x86芯片同时取得两项优势。
六家早期用户的数据各自覆盖不同负载:Perplexity测的是智能体编程任务,DeepInfra测的是智能体编排,ClickHouse测的是ClickBench硬件榜,DuckLabs测的是TPC-H,Daytona与Modal测的是沙箱吞吐。这些数字说明的是各合作方在特定任务上的结果,英伟达未公布统一的横向评测方法。
英伟达在博客中发布Vera CPU,称其面向AI智能体的CPU执行环节,在单一芯片上同时提供较高的智能体速度和每瓦容量。博文由Hannah Coutand撰写。
英伟达称,在 100 兆瓦数据中心的对比中,单颗Vera CPU的表现优于最快的x86 CPU和最节能的x86 CPU。具体数字为:相比最快的x86 CPU,Vera每瓦支持的智能体数量多 1.6 倍;相比最节能的x86 CPU,Vera的智能体速度快 2 倍,并保持领先能效。
英伟达将这一对比放在功耗受限的前提下来表述:AI工厂的功耗有上限,运营方需要在每瓦能耗下完成尽可能多的工作,因此它主张用一颗Vera覆盖多种智能体负载,替代按速度与容量混搭x86部件的做法。
早期用户公布的生产型测试数据
英伟达列出了六家早期采用方在接近生产的测试中的结果,这些数据由各合作方在英伟达博客中提供,尚不构成独立第三方评测。
- Perplexity:在Vera上运行智能体编程任务,比传统CPU快 1.5 倍;Perplexity计划在即将上线的一套生产系统中部署Vera。
- DeepInfra:在其生产智能体负载的智能体编排上,达到最佳x86处理器速度的至多 2.2 倍,在测试的四种架构中最快。
- ClickHouse:未做Vera专用调优的标准二进制在 176 核上接近线性扩展,登上ClickBench硬件排行榜首位。
- DuckLabs:TPC-H SF1000中位性能约为Intel Xeon 6基线的 1.5 倍。
- Daytona:用Vera在 10.8 秒内上线 1,000 个智能体沙箱,在 2,000 个并发沙箱下达到每秒完成 12.7 个作业;x86对应时间为 88.4 秒。
- Modal:相比同级x86硬件,每核沙箱吞吐量至多 2 倍,且负载加重时优势扩大。