Wichtige Informationen
OpenAI setzt seine neuen Jalapeño-ASICs intern zusammen mit AMD EPYC Turin-Hostsystemen ein, die jeweils mit 1,5 TB Speicher ausgestattet sind. Richard Ho, VP und Head of Hardware bei OpenAI, erklärte in einem Interview, dass die Auswahl von Turin eine pragmatische Entscheidung war, um das Designrisiko zu minimieren und schnell voranzukommen.
Ho erklärte, dass Nvidias neue Vera-CPU als eigenständige Option für dieses spezifische Projekt in Bezug auf ihre Reife als etwas hinterherhinkend angesehen wird. Darüber hinaus hatten Partner bereits Erfahrung in der Zusammenarbeit mit Turin, und praktische Faktoren wie die Sockelung der Turin-Chips anstelle einer Platinenmontage beeinflussten die Entscheidung des Hardwareteams.
Obwohl OpenAI auf der Liste der Kunden steht, die Nvidias Vera-CPU prüfen, und ein Arm-AGI-Bereitstellungspartner ist, hat die Organisation letztendlich Plattformreife und Risikominimierung für die Rack-Scale-Bereitstellung von Jalapeño priorisiert. Zukünftige Bereitstellungen nutzen möglicherweise andere Hostsysteme, aber Turin wurde als die richtige Wahl für das aktuelle Programm ermittelt.
