关键信息

OpenAI 正在内部部署其新的 Jalapeño ASIC,并搭配 AMD EPYC Turin 主机系统,每个系统配备 1.5TB 内存。OpenAI 硬件副总裁兼负责人 Richard Ho 在一次采访中解释说,选择 Turin 是为了降低设计过程的风险并快速推进而做出的务实选择。

Ho 表示,作为该特定项目的独立选项,Nvidia 的新 Vera CPU 在成熟度方面被认为稍微落后。此外,合作伙伴已经拥有使用 Turin 的经验,并且诸如 Turin 芯片采用插槽式设计而不是板载安装等实际因素影响了硬件团队的决策。

尽管 OpenAI 被列为探索 Nvidia Vera CPU 的客户之一,并且是 Arm AGI 部署合作伙伴,但该组织最终优先考虑了平台成熟度和风险降低,以便在机架规模上部署 Jalapeño。未来的部署可能会使用不同的主机系统,但 Turin 被确定为当前项目的正确选择。

更多详细内容请参阅原文。