关键信息

经过改装的 PlayStation 5 主机现在能够运行人工智能程序。 通过利用一个新项目，该硬件能够利用其图形处理器（GPU）和系统内存来更高效地执行这些计算任务。

Reddit 用户 u/AdIllustrious7246 改进了之前仅依赖主机处理器运行的系统版本。 之前的版本由于 6 GB 的内存限制，面临着包括频繁崩溃在内的严重稳定性问题。

更新后的实现利用 PS5_Vulkan 软件，授予了对 GPU 的无限制访问权限。 这种修改使系统能够访问高达 11.4 GB 的内存，从而带来了显著的性能提升。

复杂的 AI 模型现在可以以每秒 20 个 token 的速度运行，而像 Llama 3.2 3B 这样的轻量级替代方案则能达到每秒超过 120 个 token 的速度。 项目开发者提供了功耗、系统负载和热输出的实时监控功能。 此外，只要 PC 或移动设备连接到同一个局域网，用户就可以通过网页浏览器远程与 AI 进行交互。

更多详细内容请参阅原文。