要点
改造されたPlayStation 5コンソールで、人工知能プログラムの実行が可能になりました。 新しいプロジェクトを活用することで、ハードウェアのグラフィックス処理装置（GPU）とシステムメモリを利用し、これらの計算タスクをより効率的に実行します。
Redditユーザーのu/AdIllustrious7246氏は、コンソールのプロセッサのみに依存していた以前のシステムイテレーションを改良しました。 以前のバージョンでは、6GBのメモリ制限により、頻繁なクラッシュを含む重大な安定性の問題に直面していました。
更新された実装では、PS5_Vulkanソフトウェアを利用してGPUへの無制限のアクセスを許可しています。 この改造により、システムは最大11.4GBのRAMにアクセスできるようになり、大幅なパフォーマンス向上が実現しました。
複雑なAIモデルは現在1秒あたり20トークンで動作し、Llama 3.2 3Bのような軽量な代替モデルは1秒あたり120トークンを超える速度を達成しています。 プロジェクト開発者は、消費電力、システム負荷、熱出力のリアルタイム監視を提供しました。 さらに、PCやモバイルデバイスのWebブラウザを介して、同じローカルネットワークに接続されていれば、リモートでAIと対話することも可能です。
