Información clave
OpenAI está desplegando internamente sus nuevos ASIC Jalapeño junto con sistemas host AMD EPYC Turin, cada uno equipado con 1.5 TB de memoria. Richard Ho, vicepresidente y director de hardware en OpenAI, explicó en una entrevista que seleccionar Turin fue una elección pragmática destinada a reducir el riesgo del proceso de diseño y avanzar rápidamente.
Ho declaró que la nueva CPU Vera de Nvidia se considera un poco retrasada en madurez como opción independiente para este proyecto específico. Además, los socios ya tenían experiencia trabajando con Turin, y factores prácticos como el hecho de que los chips Turin vayan en socket en lugar de ir montados en placa influyeron en la decisión del equipo de hardware.
Aunque OpenAI figura entre los clientes que exploran la CPU Vera de Nvidia y es socio de despliegue de Arm AGI, la organización priorizó en última instancia la madurez de la plataforma y la reducción de riesgos para el despliegue a escala de rack de Jalapeño. Los despliegues futuros podrían utilizar diferentes sistemas host, pero se determinó que Turin era la opción correcta para el programa actual.
