~/yomxxx/posts/2026-10-18-ps5lm-llama-cpp-jailbroken-ps5-home-inference-tools.mdx
Tools

$ cat PS5LM 速评:在游戏机的 GPU 上跑 llama.cpp,给全屋当模型服务器

-- 5 min read ·

Hacker News 周五冒出来一个让人会心一笑的项目:PS5LM,把 llama.cpp 搬上越狱 PS5,让游戏机的 GPU 变成家用模型服务器,367 分。这类「非常规硬件跑 LLM」的项目每年都有几个,大多数是玩具级验证——能跑,但没人真用。PS5LM 不太一样:它有完整的电视端 UI、双协议 API、模型管理器、硬件监控,甚至接上了决策模型生态。这不是一个概念验证,这是一个完成度出乎意料的产品。本文快速过一遍它的架构、数据与门槛,帮你判断它值不值得折腾。

它到底做了什么

一句话架构:llama.cpp 的 Vulkan 后端,跑在 PS5 的 RDNA 2 GPU 上。PS5 的 GPU 有 36 个计算单元,与 CPU 共享 16GB GDDR6 内存;PS5LM 给模型和上下文划出 11.4GB。llama.cpp 认识的所有架构与量化格式照单全收,Q4_K_M 这类常规量化直接可用。

对外它是一个标准的推理服务器:OpenAI 格式的 /v1/chat/completions、Anthropic 格式的 /v1/messages(官方明确说 Claude Code 可以直接指向它)、加一个任意浏览器可开的聊天页,统一监听主机的 8081 端口。README 的口号很直白:你的 PS5 跑模型,你网络里的每一台设备都用它。手机、笔记本、家里的编码工具,改个 base_url 就接入。

实测数据:先看硬数字

README 给了 PS5 Slim 上的实测表,这是全文最有信息量的部分:

模型体积PS5 Slim 实测
Qwen 3.5 0.8B(Q4_K_M)0.5GB207 token 每秒
Qwen 3.5 9B(Q4_K_M)5.3GB55 token 每秒
Qwen 3.8 27B(UD-Q2_K_XL)9.2GB约 20 token 每秒,64k 上下文
d1 Omni 600M 决策模型1.1GB3 个问题 0.3 秒

解读一下:9B 模型 55 token 每秒已经超过人类阅读速度三倍以上,对话体验完全成立;27B 压到 2bit 极致量化后 20 token 每秒,属于「能用但不爽」的档位,配合 64k 上下文适合文档问答这类重上下文轻生成的任务。11.4GB 的显存预算意味着 9B Q4 是舒适区、13B 级 Q4 勉强、27B 必须极限量化——选模型时按这个预算表对号入座。

决策模型是另一番景象:d1 Omni 600M 三个分类问题 0.3 秒答完,720p 图片加七个问题也只要 2.9 秒。一次前向、不生成文本的架构天生适合这种低算力高频率的场景,后面单说。

最意外的部分:决策模型上了电视

PS5LM 最近的新功能是与 Ollaya 生态打通——Ollaya 是「用 Ollama 的方式跑开源决策模型」的项目,PS5LM 把同一套 systemone 端点搬上了主机。发一段状态文本加一组结构化问题,控制台一次前向返回类型化判定与校准概率,全程不生成一个字。

一个 600M 的模型加一台静音常开的游戏机,组成的是一个非常便宜的事件分类节点:工单意图识别、消息情绪判定、图片是否包含敏感内容,这类「每分钟几百次、每次毫秒级」的判定任务,传统上要么上云要么占一张卡,现在可以塞进客厅的电视盒子。README 里的示例是一段客服文本判定「用户要退款还是要信息还是要取消」,输出结构化的选项与布尔字段——这用法一旦想通,场景会自己冒出来。

带图像投影器的模型(Gemma 4、MiniCPM-V、d1)还支持拍照输入,电视聊天里直接发图做视觉问答。

工程完成度:像样的产品,不像样的平台

抛开跑模型这个主功能,PS5LM 的细节完成度是它从「玩具」跃升到「工具」的关键:

  • 电视 UI 五页齐全:Home 显示模型状态与实时请求流;Models 页管下载、加载与搜索;Console 页画温度、功耗、GPU 与 CPU 负载的时序图;API 页直接展示端点与示例;Settings 页管配置。手柄就能完整操作,十字键选模型、方块键发演示请求、三角键开键盘。
  • 模型规划器:加载前先读每个 GGUF 的元数据,自动给内存放得下的最长上下文与最优缓存配置——这是很多桌面工具都懒得做的体验细节。
  • 下载管理:内置从 Hugging Face 直接下载,目标可以是内置存储、M.2 扩展或 USB 盘。
  • 监控走正规渠道:温度与功耗数据通过 ps5-exporter(基于 elfldr 的 9021 端口)上报,数据是真实传感器读数,不是估算。

门槛与代价:把丑话说在前面

首先是越狱链:要求固件在 7.00 到 13.60 区间且已越狱,必备三个 payload——内核补丁 kstuff-lite、homebrew 支持 etaHEN、主屏挂载 ShadowMountPlus,另推荐 elfldr 与 ftpsrv 两个辅助工具。对没碰过 PS5 越狱的人,这一段是整个项目里最陡的学习曲线。其次是用途取舍:越狱机器与官方联机服务的关系是老话题,主力游戏机别动手,退役机或二手机才是正确载体。最后是性能天花板:RDNA 2 没有现代张量核心,吞吐注定不如同价位桌面显卡,把它当「静音省电的常开推理节点」而不是「本地推理主力」来定位,预期就对了。

结论:给谁的玩具,给谁的工具

如果你有一台闲置的越狱 PS5,PS5LM 几乎是零成本把一台游戏机变成全屋可用的推理与判定节点,完成度对得起折腾;如果你想找本地推理主力,同预算下一张二手桌面卡仍然更合理。它真正的启示在于:当推理门槛降到「任意 GPU 设备 + 一个 llama.cpp 后端」的抽象层,算力的分布方式就开始脱离「显卡插在开发机上」的默认想象——游戏机、电视盒子、机顶盒,任何有 GPU 和网络的角落都可能是一个模型节点。从这个角度看,PS5LM 的价值不在 PS5,而在它示范了一种最低成本的边缘推理形态。

项目地址在 GitHub 的 cobanov/PS5LM,应用从发布页下载,文档里有专门一章讲怎么把 opencode、Codex、Claude Code 指向这台主机。

Frequently asked questions

PS5 跑大模型的硬件底子怎么样?
PS5 的 GPU 是 RDNA 2 架构,36 个计算单元,配合 16GB GDDR6 共享内存,PS5LM 划出 11.4GB 给模型与上下文。这个规格放在桌面显卡里大约相当于中端卡的水平,跑量化后的 9B 级模型很从容,27B 级模型压缩到极致量化后也能用。它是为游戏渲染设计的,没有张量核心,吞吐不是强项,胜在安静、省电、常开不心疼。
安装门槛有多高?
需要 PS5 固件在 7.00 到 13.60 区间内且已越狱,并加载三个必备 payload:内核补丁的 kstuff-lite、提供 homebrew 支持的 etaHEN、把应用挂上主屏的 ShadowMountPlus。之后从发布页下载压缩包,通过 FTP 把应用文件夹拷到指定目录,模型文件放进模型目录或让应用自己从 Hugging Face 下载。对没玩过 PS5 越狱的人,整个链条上手要一个晚上。
哪些接口可以对接?
三个层次全有:OpenAI 格式的 chat completions、Anthropic 格式的 messages 端点(Claude Code 可以直接指向它)、以及浏览器聊天页,统一监听主机的 8081 端口,任何设备改个地址就能用,模型名随便填、已加载的模型应答。另外还支持 Ollaya 生态决策模型的 systemone 端点,可以发结构化问题拿带校准概率的类型化判定。
实测速度能满足日常使用吗?
PS5 Slim 上 Qwen 3.5 0.8B 量化版跑 207 token 每秒,9B 量化版 55 token 每秒,这两个档位对话体验完全可用;27B 压到 2bit 极致量化后约 20 token 每秒、64k 上下文,属于能忍但不快的水平。决策模型另算,d1 Omni 600M 三个问题 0.3 秒出结果,做高频分类判定毫无压力。总体适合个人对话与轻量自动化,不适合生产吞吐。
越狱 PS5 有什么现实代价?
主要是三点:固件窗口限制,必须在支持越狱的版本区间内且不能随便升级系统;失去官方联机服务是普遍共识,玩正版网游的机器别动手;以及操作失误导致的变砖风险,虽然近年 payload 工具链已成熟很多。把它当成一台退役或二用的专用推理机来对待,心理预期就对了——它不会替代你的主力显卡,但它可能是你家里唯一 24 小时静音在线的算力节点。
// next.txt ›

Some outbound links in this post are affiliate links — see disclosure.