Mahalagang impormasyon
Ang OpenAI ay nag-de-deploy ng bagong Jalapeño ASIC nito sa loob kasama ang mga AMD EPYC Turin host system, na bawat isa ay nilagyan ng 1.5TB ng memorya. Ipinaliwanag ni Richard Ho, VP at Head of Hardware sa OpenAI, sa isang panayam na ang pagpili sa Turin ay isang praktikal na desisyon na naglalayong bawasan ang panganib sa proseso ng disenyo at mabilis na kumilos.
Sinabi ni Ho na ang bagong Vera CPU ng Nvidia ay itinuturing na medyo nahuhuli sa kapanahunan bilang isang solong opsyon para sa partikular na proyektong ito. Bukod pa rito, ang mga kasosyo ay mayroon nang karanasan sa pagtatrabaho sa Turin, at ang mga praktikal na kadahilanan tulad ng pagiging socketed ng mga Turin chip sa halip na board-mounted ay nakaimpluwensya sa desisyon ng koponan ng hardware.
Bagaman ang OpenAI ay nakalista sa mga customer na nag-a-assess ng Vera CPU ng Nvidia at isang kasosyo sa pag-deploy ng Arm AGI, sa huli ay inuna ng organisasyon ang kapanahunan ng platform at pagbawas ng panganib para sa rack-scale na pag-deploy ng Jalapeño. Ang mga hinaharap na pag-deploy ay maaaring gumamit ng iba't ibang host system, ngunit ang Turin ay natukoy na tamang pagpipilian para sa kasalukuyang programa.
