Información clave
Microsoft ha lanzado oficialmente el Azure Maia 300, su procesador de computación interno más potente diseñado específicamente para la inferencia de IA dentro de su infraestructura en la nube. El CEO Satya Nadella confirmó los planes de escalar la familia de chips Maia a implementaciones de varios gigavatios para respaldar los productos y servicios internos de la compañía.
El Maia 300 utiliza una arquitectura de mosaico de múltiples chiplets que cuenta con un dado de computación principal fabricado en el nodo N2P de 2 nm de TSMC. Incorpora 288 GB de memoria HBM4 en ocho pilas, lo que proporciona un ancho de banda de 18 TB/s.
El procesador tiene una potencia de diseño térmico máxima de 950 W. Las métricas de rendimiento para el nuevo silicio incluyen 13.8 peta-OPS para el rendimiento de FP4 y 6.9 POPS para FP8.
El chip admite un enlace entre chips de 3.2 TB/s y es compatible con una interfaz de red Ethernet de transporte de IA de dos niveles, lo que permite un escalado masivo de hasta 12,000 chips dentro de un solo dominio. Este lanzamiento sigue al despliegue del Maia 200, que actualmente opera en Estados Unidos, Europa y Australia. Microsoft afirma que el Maia 300 proporcionará una mejora del 40% en tokens por vatio en comparación con las soluciones basadas en GPU existentes, basándose en la ganancia de eficiencia del 70% ya observada con el Maia 200.
