Información clave
Un grupo de modders ha logrado eludir las restricciones de firmware en las tarjetas gráficas NVIDIA GeForce RTX serie 30 y 40 para desbloquear un potencial de cómputo que anteriormente estaba reservado para hardware de grado profesional. Al anular las limitaciones internas, estas modificaciones permiten que las GPU de consumo alcancen tasas de emisión de instrucciones comparables a las de sus contrapartes profesionales.
Para la serie RTX 30 basada en Ampere, los investigadores desarrollaron un método para duplicar la velocidad de emisión de instrucciones de FP/BF16 FMA en operaciones FP32. Esta modificación permite que tarjetas como la RTX 3090 Ti realicen multiplicaciones de matrices hasta un 80% más rápido, beneficiando significativamente a las aplicaciones de redes neuronales.
La serie RTX 40 basada en Ada Lovelace experimentó una aceleración de 2 veces en el rendimiento de tensores FP16 y BF16. Las pruebas en una RTX 4090 demostraron un aumento de 165.6 TeraFLOPS a 331.6 TeraFLOPS, igualando niveles de rendimiento típicamente restringidos a la serie profesional RTX 6000 Ada Lovelace.
Estas modificaciones mantienen la compatibilidad con los controladores estándar de NVIDIA y operan dentro de los límites de energía originales, como el TGP de 450 W. Aunque los desbloqueos mejoran el rendimiento de tokens para modelos de lenguaje grandes locales, los usuarios deben habilitar los mods al arrancar. Es importante destacar que estas modificaciones anulan la garantía de la GPU.
