핵심 정보
개발자 abhi245y는 Mert Cobanov의 PS5LM 프로젝트를 기반으로 한 네이티브 GPU 애플리케이션인 PS5LM Plus를 공개했습니다. 이 개조를 통해 탈옥된 PlayStation 5 콘솔을 Qwen3.8-27B 모델을 포함한 대규모 언어 모델의 로컬 서버로 사용할 수 있게 되었습니다.
이 프로젝트는 RADV 오픈 소스 AMD 드라이버와 Vulkan 인터페이스를 활용하여 네이티브 llama.cpp 실행을 가능하게 합니다. 메모리 관리를 최적화함으로써 개발자는 사용 가능한 메모리를 6GB에서 11.4GB로 늘려 고도로 양자화된 모델의 작동을 원활하게 했습니다.
성능은 모델 크기에 따라 다르며, Qwen3.8-27B-UD-IQ2_XXS 버전은 초당 약 20.9 토큰을 달성하고, Llama 3.2 3B와 같은 더 작은 모델은 초당 124 토큰에 도달합니다. 작동 중 콘솔은 86W의 전력 소비와 약 54°C의 온도를 유지합니다.
PS5LM Plus는 웹 인터페이스와 API 지원을 제공하여 Codex 및 Claude Code와 같은 도구와의 통합을 가능하게 합니다. 그러나 이 과정에는 탈옥된 콘솔이 필요하며, 이는 PSN 계정 정지 위험을 수반하고 16GB 메모리 제한으로 인해 고도로 압축된 모델만 사용할 수 있다는 제약이 있습니다.
