핵심 정보
모더들이 Nvidia RTX 20, 30, 40 시리즈 GPU에 적용된 인위적인 AI 성능 반토막 제한을 제거하는 펌웨어 익스플로잇을 개발했습니다. Nvidia의 서명된 SEC2 부터 펌웨어의 스택 버퍼 오버플로우를 악용하는 이 비공식 모듈을 통해 사용자는 이전에 전문가용 카드에만 제한되었던 기본 행렬 연산 처리량을 복원하는 레지스터를 전환할 수 있습니다.
잠금 해제 과정은 세대별로 다르며, 리눅스 모듈이나 실험적인 윈도우 빌드를 사용하여 제한을 우회합니다. gpu-unlock 프로젝트는 암페어 카드를 지원하며, gpu-unlock-ada는 RTX 4090을 포함한 에이다 러브레이스 아키텍처를 대상으로 합니다. RTX 2080 Ti와 같은 튜링 기반 카드는 turing-unlock 및 KohakUnlock 프로젝트를 통해 지원됩니다. 성능 향상은 상당하지만 일관적이지는 않습니다.
RTX 4090의 최대 텐서 속도는 두 배가 될 수 있지만, 실제 행렬 곱셈 벤치마크에서는 특정 카드, 전력 제한, 작업 부하에 따라 12%에서 94%까지의 향상을 보입니다. 개발자들은 이러한 수정이 하드웨어 손상, 데이터 손상 또는 시스템 불안정 등 잠재적인 위험을 초래할 수 있다고 경고합니다. 이러한 성능 향상에도 불구하고, 실제 챗봇 토큰 속도는 메모리 대역폭의 제한을 받기 때문에 크게 변하지 않습니다.
또한 지원 범위는 여전히 제한적입니다. 호퍼 및 블랙웰 아키텍처는 대상에서 제외되었으며, 많은 특정 카드 변형은 아직 검증되지 않았습니다. 현재 프로젝트들은 호환성을 확대하기 위해 사용자 보고를 수집하고 있으나, 공식적인 로드맵은 존재하지 않습니다.
