关键信息
模组制作者成功绕过了 NVIDIA GeForce RTX 30 系列和 40 系列显卡的固件限制，解锁了此前仅限于专业级硬件的计算潜力。 通过覆盖内部限制，这些修改使消费级 GPU 能够达到与专业级产品相当的指令发布速率。
对于基于 Ampere 架构的 RTX 30 系列，研究人员开发了一种将 FP/BF16 FMA 的指令发布速度提高到 FP32 操作两倍的方法。 这一修改使 RTX 3090 Ti 等显卡能够以快达 80% 的速度执行矩阵乘法，从而显著提升神经网络应用性能。
基于 Ada Lovelace 架构的 RTX 40 系列在 FP16 和 BF16 张量吞吐量上实现了 2 倍的提升。 在 RTX 4090 上的测试显示，性能从 165.6 TeraFLOPS 增加到 331.6 TeraFLOPS，达到了通常仅限于专业级 RTX 6000 Ada Lovelace 系列的性能水平。
这些修改保持了与 NVIDIA 原厂驱动程序的兼容性，并在原始功耗限制（如 450W TGP）内运行。 虽然解锁提升了本地大语言模型的令牌吞吐量，但用户必须在启动时启用这些模组。 重要的是，这些修改会使 GPU 保修失效。
