핵심 정보
개조된 PlayStation 5 콘솔에서 이제 인공지능 프로그램을 실행할 수 있게 되었습니다. 새로운 프로젝트를 활용하여 하드웨어의 그래픽 처리 장치(GPU)와 시스템 메모리를 사용하여 이러한 연산 작업을 더욱 효율적으로 수행합니다.
Reddit 사용자 u/AdIllustrious7246은 콘솔의 프로세서에만 의존하던 이전 시스템 버전을 개선했습니다. 이전 버전은 6GB 메모리 제한으로 인해 잦은 충돌 등 심각한 안정성 문제를 겪었습니다.
업데이트된 구현 방식은 PS5_Vulkan 소프트웨어를 활용하여 GPU에 대한 제한 없는 액세스 권한을 부여합니다. 이러한 수정으로 시스템은 최대 11.4GB의 RAM에 액세스할 수 있게 되어 상당한 성능 향상을 가져왔습니다.
복잡한 AI 모델은 이제 초당 20토큰으로 작동하며, Llama 3.2 3B와 같은 가벼운 대안은 초당 120토큰 이상의 속도를 달성합니다. 프로젝트 개발자는 전력 소비, 시스템 부하, 발열량에 대한 실시간 모니터링 기능을 제공했습니다. 또한 사용자는 PC나 모바일 기기의 웹 브라우저를 통해 동일한 로컬 네트워크에 연결되어 있다면 원격으로 AI와 상호 작용할 수 있습니다.
