Thông tin chính
OpenAI đang triển khai ASIC Jalapeño mới của mình nội bộ cùng với các hệ thống máy chủ AMD EPYC Turin, mỗi hệ thống được trang bị 1,5TB bộ nhớ. Richard Ho, Phó chủ tịch kiêm Trưởng bộ phận Phần cứng tại OpenAI, giải thích trong một cuộc phỏng vấn rằng việc lựa chọn Turin là một lựa chọn thực tế nhằm giảm thiểu rủi ro cho quá trình thiết kế và tiến hành nhanh chóng.
Ho tuyên bố rằng CPU Vera mới của Nvidia được coi là kém trưởng thành hơn một chút khi là một tùy chọn độc lập cho dự án cụ thể này. Ngoài ra, các đối tác đã có kinh nghiệm làm việc với Turin, và các yếu tố thực tế như các chip Turin được lắp socket thay vì gắn trên bo mạch đã ảnh hưởng đến quyết định của đội ngũ phần cứng.
Mặc dù OpenAI được liệt kê trong số các khách hàng đang khám phá CPU Vera của Nvidia và là đối tác triển khai Arm AGI, tổ chức này cuối cùng vẫn ưu tiên độ trưởng thành của nền tảng và giảm thiểu rủi ro cho việc triển khai Jalapeño quy mô tủ rack. Các đợt triển khai trong tương lai có thể sử dụng các hệ thống máy chủ khác, nhưng Turin được xác định là lựa chọn chính xác cho chương trình hiện tại.
