मुख्य जानकारी
OpenAI आंतरिक रूप से अपने नए Jalapeño ASIC को AMD EPYC Turin होस्ट सिस्टम के साथ तैनात कर रहा है, जिनमें से प्रत्येक 1.5TB मेमोरी से लैस है। OpenAI में हार्डवेयर के वीपी और हेड रिचर्ड हो ने एक इंटरव्यू में बताया कि Turin का चयन डिजाइन प्रक्रिया को जोखिम मुक्त करने और तेजी से आगे बढ़ने के उद्देश्य से एक व्यावहारिक विकल्प था।
हो ने कहा कि इस विशिष्ट प्रोजेक्ट के लिए एक स्टैंडअलोन विकल्प के रूप में Nvidia के नए Vera CPU को परिपक्वता के मामले में थोड़ा पीछे माना जाता है। इसके अतिरिक्त, भागीदारों को पहले से ही Turin के साथ काम करने का अनुभव था, और Turin चिप्स के बोर्ड-माउंटेड होने के बजाय सॉकेटेड होने जैसे व्यावहारिक कारकों ने हार्डवेयर टीम के निर्णय को प्रभावित किया।
यद्यपि OpenAI को Nvidia के Vera CPU की खोज करने वाले ग्राहकों में सूचीबद्ध किया गया है और वह एक Arm AGI तैनाती भागीदार है, लेकिन संगठन ने अंततः रैक-स्केल Jalapeño तैनाती के लिए प्लेटफॉर्म परिपक्वता और जोखिम में कमी को प्राथमिकता दी। भविष्य की तैनाती में अलग-अलग होस्ट सिस्टम का उपयोग हो सकता है, लेकिन वर्तमान प्रोग्राम के लिए Turin को सही विकल्प निर्धारित किया गया था।
