ข้อมูลสำคัญ
ก่อนงานอีเวนต์ของ Microsoft ในวันพุธที่ 7 ตุลาคม AMD ได้เปิดเผยผลทดสอบประสิทธิภาพของชิป Gorgon Halo รุ่นใหม่เพื่อแข่งขันกับอุปกรณ์ RTX Spark ที่คาดว่าจะเปิดตัวจาก Nvidia อุปกรณ์ Gorgon Halo ชุดแรกได้วางจำหน่ายแล้วเมื่อเร็วๆ นี้ โดยบางรุ่นมีราคาพุ่งสูงถึงกว่า 7,099 ดอลลาร์
AMD ใช้ ComfyUI และ Ryzen AI Max+ Pro 495 ในการกำหนดค่าหน่วยความจำ 192GB เพื่อวัดประสิทธิภาพของ Generative AI เทียบกับระบบหน่วยความจำ 64GB ของ Intel Core Ultra X9 388H โดย AMD รองรับหน่วยความจำแบบรวม (Unified Memory) สูงสุดถึง 192GB ในขณะที่อุปกรณ์ RTX Spark มีขีดจำกัดสูงสุดอยู่ที่ 128GB ซึ่งช่วยให้ฮาร์ดแวร์ของ AMD สามารถรันโมเดลขนาดใหญ่ในเครื่องได้
นักวิจารณ์ตั้งข้อสังเกตว่าความจุหน่วยความจำที่สูงขึ้นช่วยให้สามารถรันโมเดลขนาดใหญ่ขึ้นได้ แต่ไม่ได้การันตีว่าจะประมวลผลได้เร็วขึ้น จากการประเมินก่อนหน้านี้ ฮาร์ดแวร์ของ AMD มีประสิทธิภาพต่ำกว่า DGX Spark ในด้านเวลาในการสร้างโทเค็นแรก (Time to first token) และจำนวนโทเค็นต่อวินาที นอกจากนี้ ปริมาณงานของโทเค็น (Token throughput) จะลดลงเมื่อความยาวของบริบท (Context length) เพิ่มขึ้น ซึ่งอาจทำให้โมเดลขนาดใหญ่เข้าสู่สถานะที่ไม่สามารถใช้งานได้
อุปกรณ์ Gorgon Halo รุ่นแรกๆ เช่น Minisforum MS-S1 Max-P495 มีวางจำหน่ายแล้วในขณะนี้ โดยรุ่นท็อปสุดมีราคาอยู่ที่ประมาณ 7,000 ดอลลาร์ ในขณะเดียวกัน การเปิดตัว RTX Spark ของ Nvidia คาดว่าจะเกิดขึ้นหลังจากมีการปล่อยทีเซอร์เมื่อช่วงปลายสัปดาห์ที่แล้ว
