@스레드

시작한 글

탈옥된 PS5에서 이제 초당 100개 이상의 토큰으로 로컬 AI 모델 실행 가능

u/AdIllustrious7246라는 Reddit 사용자가 탈옥된 PlayStation 5 콘솔에서 대규모 언어 모델을 로컬로 실행하도록 설계된 llama.cpp의 포트인 PS5LM의 포크 버전을 공개했습니다. 이번 개발은 CPU 기반 페이로드에 의존하던 이전 방식에서 크게 발전하여 콘솔의 GPU를 활용한 네이티브 실행을 가능하게 했습니다. 이 프로젝트는 RADV 그래픽 드라이버의 포트인 PS5_Vulkan을 사용하여 콘솔의

이 글은 같은 주제의 스레드에 연결됩니다.