要点
モッダーがNVIDIA GeForce RTX 20、30、40シリーズグラフィックスカードのファームウェア制限を回避し、演算性能を実質的に2倍にする技術を開発しました。 これらの改造は、プロフェッショナルグレードのハードウェアとシリコンを共有するコンシューマー向けGPUの命令発行レートを対象としています。
AmpereベースのRTX 30シリーズカード、特にGA102、GA103、GA104、GA106ダイを使用するカードでは、行列乗算において大幅な向上が見られます。 例えば、RTX 3090 Tiは、ニューラルネットワークタスクに不可欠なBF16演算において最大80%の高速化を実現します。
AD102、AD103、AD106チップを含むAda Lovelace RTX 40シリーズでは、このロック解除によりFP16およびBF16テンソルスループットが2倍になります。 RTX 4090でのテストでは、165.6 TeraFLOPSから331.6 TeraFLOPSへの増加が見られ、RTX 6000のようなプロフェッショナル向けカードに通常予約されている性能レベルに匹敵しました。
これらの改造は、標準のNVIDIAドライバーとの互換性を維持し、ドライバーチェックを通過します。 演算能力の向上はローカルの大規模言語モデルなどのタスクに役立ちますが、ユーザーは起動時にMODを有効にする必要があります。 さらに、これらの変更を行うとGPUの保証が無効になります。
