要点

マイクロソフトは、同社のクラウドインフラストラクチャ内でのAI推論専用に設計された、最も強力な自社製コンピューティングプロセッサ「Azure Maia 300」を正式に発表しました。 サティア・ナデラCEOは、同社の社内製品およびサービスをサポートするために、Maiaチップファミリーを数ギガワット規模の展開へと拡大する計画を明らかにしました。

Maia 300は、TSMCのN2P 2nmプロセスで製造されたメインコンピューティングダイを特徴とするマルチチップレットタイルアーキテクチャを採用しています。 8つのスタックにわたる288GBのHBM4メモリを統合し、18TB/sの帯域幅を実現しています。

プロセッサの最大熱設計電力(TDP)は950Wです。 この新しいシリコンの性能指標には、FP4スループットで13.8ペタOPS、FP8で6.9 POPSが含まれます。

このチップは3.2TB/sのチップ間リンクをサポートし、2層のAIトランスポートイーサネットネットワークインターフェースと互換性があるため、単一ドメイン内で最大12,000チップまでの大規模な拡張が可能です。 今回のリリースは、現在米国、欧州、オーストラリアで運用されているMaia 200の展開に続くものです。 マイクロソフトは、Maia 300が既存のGPUベースのソリューションと比較してワットあたりのトークン性能を40%向上させ、Maia 200ですでに確認されている70%の効率向上をさらに発展させるものになると主張しています。

詳しい内容は原文をご確認ください。