핵심 정보
모더들이 NVIDIA GeForce RTX 20, 30, 40 시리즈 그래픽 카드의 펌웨어 제한을 우회하여 연산 성능을 효과적으로 두 배로 높이는 기술을 개발했습니다. 이러한 수정 사항은 전문가용 하드웨어와 실리콘을 공유하는 소비자용 GPU의 명령어 발행 속도를 목표로 합니다.
Ampere 기반 RTX 30 시리즈 카드, 특히 GA102, GA103, GA104, GA106 다이를 사용하는 카드는 행렬 곱셈에서 상당한 성능 향상을 보입니다. 예를 들어, RTX 3090 Ti는 신경망 작업에 필수적인 BF16 연산에서 최대 80% 더 빠른 성능을 달성합니다.
AD102, AD103, AD106 칩을 포함한 Ada Lovelace RTX 40 시리즈의 경우, 이 잠금 해제를 통해 FP16 및 BF16 텐서 처리량이 2배 향상됩니다. RTX 4090에서 테스트한 결과 165.6 TeraFLOPS에서 331.6 TeraFLOPS로 증가하여 RTX 6000과 같은 전문가용 카드에 일반적으로 예약된 성능 수준과 일치했습니다.
이러한 수정 사항은 기본 NVIDIA 드라이버와의 호환성을 유지하며 드라이버 검사를 통과합니다. 증가된 연산 능력은 로컬 대규모 언어 모델과 같은 작업에 도움이 되지만, 사용자는 부팅 시 모드를 활성화해야 합니다. 또한 이러한 변경 사항은 GPU 보증을 무효화합니다.
