关键信息

Intel和AMD正在合作,将其各自的PyTorch CPU优化整合到一个统一的库中。 AMD正在将其ZenDNN库迁移到由UXL基金会管理的开源oneDNN项目中。

此外,AMD已作为指导成员加入UXL基金会,并将每年捐款2万美元。 这一倡议由2024年成立的x86生态系统咨询小组提出,旨在简化开发者的AI推理流程。 通过利用oneDNN后端,软件可以在运行时自动检测硬件功能,从而生成优化的内核。

该库支持矩阵乘法和卷积等关键机器学习运算,并提供低精度数据类型。 oneDNN后端于2023年底集成到PyTorch中,已展现出显著的性能提升。

据报告数据显示,该库在支持的硬件上,Float32数据类型的性能提升了1.24倍,BFloat16数据类型的性能提升了2.21倍。 虽然这项工作侧重于x86架构,但oneDNN仍然是一个跨平台库,同时也支持Arm和RISC-V。 Intel作为UXL基金会与Google Cloud和高通等公司共同的创始成员,最初开发了oneDNN,随后将其移交给了该基金会。

更多详细内容请参阅原文。