要点
OpenAIは、新しいJalapeño ASICをAMD EPYC Turinホストシステム(それぞれ1.5TBのメモリを搭載)と共に内部導入しています。OpenAIのハードウェア担当副社長兼ヘッドであるリチャード・ホー氏はインタビューの中で、Turinの選択は設計プロセスのリスクを軽減し迅速に進めるための現実的な選択であったと説明しました。
ホー氏は、Nvidiaの新しいVera CPUは、この特定のプロジェクトにおける単体の選択肢として、成熟度がやや遅れていると見なされていると述べています。さらに、パートナー企業にはすでにTurinを扱った経験があり、Turinチップが基板直付けではなくソケット式であることなどの実用的な要素も、ハードウェアチームの決定に影響を与えました。
OpenAIはNvidiaのVera CPUを検討している顧客に名を連ねており、Arm AGI導入のパートナーでもあるものの、同組織はラック規模のJalapeño導入において、最終的にプラットフォームの成熟度とリスク軽減を優先しました。将来の導入では異なるホストシステムが採用される可能性もありますが、現在のプログラムにおいてはTurinが正しい選択であると判断されました。


