핵심 정보
OpenAI가 새로운 잘라페뇨 ASIC을 내부적으로 AMD EPYC 투린 호스트 시스템과 함께 배치하고 있으며, 각각 1.5TB의 메모리를 탑재하고 있습니다. OpenAI의 하드웨어 부사장 겸 책임자인 리차드 호(Richard Ho)는 인터뷰에서 투린을 선택한 것이 설계 프로세스의 위험을 줄이고 신속하게 움직이기 위한 실용적인 선택이었다고 설명했습니다.
호는 Nvidia의 새로운 베라 CPU가 이 특정 프로젝트를 위한 단독 옵션으로서 성숙도 측면에서 약간 뒤쳐진 것으로 여겨진다고 밝혔습니다. 또한 파트너들은 이미 투린과 함께 일해본 경험이 있었으며, 투린 칩이 보드 실장이 아닌 소켓 방식이라는 점과 같은 현실적인 요소들이 하드웨어 팀의 결정에 영향을 미쳤습니다.
OpenAI가 Nvidia의 베라 CPU를 검토하는 고객 목록에 올라와 있고 Arm AGI 배치 파트너이기도 하지만, 조직은 궁극적으로 랙 규모의 잘라페뇨 배치를 위해 플랫폼 성숙도와 위험 감소를 최우선으로 삼았습니다. 향후 배치에서는 다른 호스트 시스템을 활용할 수도 있지만, 현재 프로그램에는 투린이 올바른 선택인 것으로 판단되었습니다.
