重點資訊

在微軟 10 月 7 日星期三的活動之前,AMD 發布了其新款 Gorgon Halo 晶片的基準測試,以與 Nvidia 預期的 RTX Spark 設備競爭。首批 Gorgon Halo 設備最近已經推出,部分配置的價格高達 7,099 美元以上。

AMD 使用 ComfyUI 和 192GB 配置的 Ryzen AI Max+ Pro 495,與搭載 64GB 記憶體系統的 Intel Core Ultra X9 388H 進行生成式 AI 效能對比。AMD 的 Gorgon Halo 支援高達 192GB 的統一記憶體,而 RTX Spark 設備最高僅為 128GB,這使得 AMD 的硬體能夠在本地運行更大的模型。

評論者指出,更高的記憶體容量允許運行更大的模型,但並不保證執行速度更快。在之前的評估中,AMD 硬體在首個 token 時間和每秒 token 數方面表現不如 DGX Spark。此外,token 吞吐量會隨著上下文長度的增加而下降,這可能會導致更大的模型進入無法使用的狀態。

最初的 Gorgon Halo 設備,例如 Minisforum MS-S1 Max-P495,目前已可購買,頂級配置價格約為 7,000 美元。與此同時,Nvidia 的 RTX Spark 預計將在繼上週晚些時候的預告後發布。

更多詳細內容請參閱原文。