关键信息
Nvidia 已为其 Vera CPU 赢得了 AI 云服务提供商 Modal 的重要设计订单。根据内部评估,Vera 处理器所展现的吞吐量是该公司目前用于其代理 AI 基础设施的 AMD 和 Intel 芯片的两倍。
Modal 专注于为自主 AI 代理提供云基础设施,这些代理需要密集的 CPU 资源来进行数据处理和软件执行。该公司认为,基于 Arm 的 Vera 架构所带来的性能提升,足以证明将其目前在 x86 处理器上运行的软件进行移植所投入的巨大工程努力是值得的。
尽管报告中提到的 2 倍吞吐量优势引人注目,但 Modal 并未披露具体的基准测试配置、每瓦性能数据,或比较中所使用的 AMD 和 Intel 处理器的确切型号。目前尚不清楚这种性能提升是源于基于 Arm v9.2 的 Olympus 核心、1.2 TB/s 的内存带宽,还是其他架构特性。
Modal 首席执行官 Erik Bernhardsson 证实,公司将维持异构服务器集群,继续在新的 Vera 硬件旁边使用 x86 芯片。该公司计划在 AMD 和 Intel 的未来一代处理器上市后对其进行评估,以确定最适合特定工作负载的硬件。


