关键信息

开发者 abhi245y 推出了 PS5LM Plus,这是一个基于 Mert Cobanov 的 PS5LM 项目构建的本地 GPU 应用程序。 此修改允许越狱的 PlayStation 5 主机作为大型语言模型(包括 Qwen3.8-27B 模型)的本地服务器运行。

该项目利用 RADV 开源 AMD 驱动程序和 Vulkan 接口来实现原生的 llama.cpp 执行。 通过优化内存管理,开发者将可用内存从 6GB 增加到 11.4GB,从而促进了高度量化模型的运行。

性能因模型大小而异;Qwen3.8-27B-UD-IQ2_XXS 版本每秒可达到约 20.9 个 token,而像 Llama 3.2 3B 这样的小型模型每秒可达到 124 个 token。 在运行过程中,主机的功耗保持在 86W,温度保持在 54°C 左右。

PS5LM Plus 提供了 Web 界面和 API 支持,能够与 Codex 和 Claude Code 等工具集成。 然而,该过程需要越狱的主机,这会带来 PSN 账户被封禁的风险,且 16GB 的内存限制将用户限制在高度压缩的模型上。

更多详细内容请参阅原文。