Wichtige Informationen
Intel und AMD arbeiten zusammen, um ihre CPU-Optimierungen für PyTorch in eine einzige, vereinheitlichte Bibliothek zu integrieren. AMD überführt seine ZenDNN-Bibliothek in das Open-Source-Projekt oneDNN, das von der UXL Foundation verwaltet wird. Zusätzlich ist AMD der UXL Foundation als steuerndes Mitglied mit einem jährlichen Beitrag von 20.000 $ beigetreten.
Diese Initiative, die von der 2024 gegründeten x86 Ecosystem Advisory Group empfohlen wurde, zielt darauf ab, die KI-Inferenz für Entwickler zu vereinfachen. Durch die Nutzung des oneDNN-Backends kann Software zur Laufzeit automatisch Hardwarefunktionen erkennen, um optimierte Kernel zu generieren. Die Bibliothek unterstützt wesentliche Machine-Learning-Operationen, einschließlich Matrixmultiplikation und Faltung, und bietet gleichzeitig Datentypen mit niedriger Präzision.
Das oneDNN-Backend, das Ende 2023 in PyTorch integriert wurde, hat signifikante Leistungssteigerungen gezeigt. Laut gemeldeten Daten erreichte die Bibliothek eine 1,24-fache Verbesserung für Float32-Datentypen und eine 2,21-fache Steigerung für BFloat16-Datentypen auf unterstützter Hardware.
Während sich diese Bemühungen auf x86-Architekturen konzentrieren, bleibt oneDNN eine plattformübergreifende Bibliothek, die auch Arm und RISC-V unterstützt. Intel, ein Gründungsmitglied der UXL Foundation neben Unternehmen wie Google Cloud und Qualcomm, entwickelte oneDNN ursprünglich, bevor es an die Stiftung übergeben wurde.
