关键信息
模组制作者开发了固件漏洞,移除了 Nvidia RTX 20、30 和 40 系列 GPU 上人为设置的 AI 性能减半限制。 通过利用 Nvidia 签名 SEC2 Booter 固件中的栈缓冲区溢出,这些非官方模块允许用户切换寄存器,从而恢复原本仅限于专业级显卡的本地矩阵数学吞吐量。
解锁过程因代际而异,利用 Linux 模块或实验性 Windows 构建版本来绕过限制。 gpu-unlock 项目涵盖了 Ampere 架构显卡,而 gpu-unlock-ada 则针对包括 RTX 4090 在内的 Ada Lovelace 架构。 基于 Turing 架构的显卡(如 RTX 2080 Ti)则通过 turing-unlock 和 KohakUnlock 项目获得支持。
性能提升显著但不一致。 虽然 RTX 4090 的峰值张量速率可以翻倍,但实际的矩阵乘法基准测试显示,根据具体显卡、功耗限制和工作负载的不同,提升幅度在 12% 到 94% 之间。 开发者警告称,这些修改存在风险,包括潜在的硬件损坏、数据损坏或系统不稳定。
尽管有这些提升,但实际的聊天机器人令牌速度基本保持不变,因为它们受到内存带宽的限制。 此外,支持范围仍然有限;Hopper 和 Blackwell 架构不在范围内,许多特定的显卡变体仍未经过验证。 目前,这些项目正在收集用户报告以扩大兼容性,但尚无官方路线图。


