핵심 정보
Intel과 AMD가 PyTorch를 위한 CPU 최적화 작업을 단일 통합 라이브러리로 통합하기 위해 협력하고 있습니다. AMD는 자사의 ZenDNN 라이브러리를 UXL 재단이 관리하는 오픈 소스 oneDNN 프로젝트로 전환하고 있습니다.
또한 AMD는 UXL 재단에 운영 위원 멤버로 합류하며 연간 2만 달러를 기부하기로 했습니다. 이 이니셔티브는 2024년에 설립된 x86 생태계 자문 그룹의 권고에 따라 개발자들의 AI 추론 과정을 간소화하는 것을 목표로 합니다. oneDNN 백엔드를 활용하면 소프트웨어가 런타임에 하드웨어 기능을 자동으로 감지하여 최적화된 커널을 생성할 수 있습니다.
이 라이브러리는 행렬 곱셈 및 컨볼루션을 포함한 필수적인 머신 러닝 연산을 지원하며 저정밀 데이터 유형을 제공합니다. 2023년 말 PyTorch에 통합된 oneDNN 백엔드는 상당한 성능 향상을 입증했습니다.
보고된 데이터에 따르면, 이 라이브러리는 지원되는 하드웨어에서 Float32 데이터 유형의 경우 1.24배, BFloat16 데이터 유형의 경우 2.21배의 성능 향상을 달성했습니다. 이번 노력은 x86 아키텍처에 중점을 두고 있지만, oneDNN은 Arm 및 RISC-V도 지원하는 크로스 플랫폼 라이브러리로 유지됩니다. Google Cloud 및 Qualcomm과 같은 기업들과 함께 UXL 재단의 창립 멤버인 Intel은 원래 oneDNN을 개발한 후 이를 재단으로 이관했습니다.
