Información clave

Intel y AMD están colaborando para integrar sus optimizaciones de CPU para PyTorch en una única biblioteca unificada. AMD está realizando la transición de su biblioteca ZenDNN al proyecto de código abierto oneDNN, gestionado por la UXL Foundation.

Además, AMD se ha unido a la UXL Foundation como miembro directivo con una contribución anual de 20.000 dólares. Esta iniciativa, recomendada por el Grupo Asesor del Ecosistema x86 establecido en 2024, tiene como objetivo simplificar la inferencia de IA para los desarrolladores. Al utilizar el backend de oneDNN, el software puede detectar automáticamente las características del hardware en tiempo de ejecución para generar kernels optimizados.

La biblioteca admite operaciones esenciales de aprendizaje automático, incluidas la multiplicación de matrices y la convolución, a la vez que proporciona tipos de datos de baja precisión. El backend de oneDNN, que se integró en PyTorch a finales de 2023, ha demostrado importantes ganancias de rendimiento.

Según los datos reportados, la biblioteca logró una mejora de 1,24 veces para los tipos de datos Float32 y un aumento de 2,21 veces para los tipos de datos BFloat16 en el hardware compatible. Aunque este esfuerzo se centra en las arquitecturas x86, oneDNN sigue siendo una biblioteca multiplataforma que también es compatible con Arm y RISC-V. Intel, miembro fundador de la UXL Foundation junto con empresas como Google Cloud y Qualcomm, desarrolló originalmente oneDNN antes de transferirlo a la fundación.

Consulta la fuente original para más detalles.