PS5LM:在越狱 PS5 上用 llama.cpp 原生跑任意 GGUF 模型

2026.10.17 · 产品 · 开源项目 · 开源项目

越狱 PS5 变身家用私有模型服务器,通过 Vulkan 调用 RDNA 2 GPU 推理 GGUF。

开源项目 PS5LM 让越狱 PS5 通过 llama.cpp 的 Vulkan 后端在主机 RDNA 2 GPU 上运行 GGUF 模型,11.4 GB 共享内存用于模型和上下文。它对外提供 OpenAI 的 /v1/chat/completions、Anthropic 的 /v1/messages 以及浏览器聊天页,无需 PC、云和账号。实测 Qwen 3.5 9B(Q4_K_M,5.3 GB)约 55…

  • 基于 llama.cpp Vulkan 后端,调用 PS5 的 RDNA 2…
  • 11.4 GB 共享内存供模型与上下文使用
  • 兼容 OpenAI 与 Anthropic API,Claude Code 可用
  • 支持图像投影模型,如 Gemma 4、MiniCPM-V、d1
  • 需固件 7.00~13.60 的越狱 PS5 及指定 payload

为什么值得看

把游戏主机变成无需云端的本地大模型服务器,思路新颖。

适合谁关注

有越狱 PS5 的玩家、本地部署爱好者和自建模型服务的人。

原始来源