Hacker News 周五冒出来一个让人会心一笑的项目:PS5LM,把 llama.cpp 搬上越狱 PS5,让游戏机的 GPU 变成家用模型服务器,367 分。这类「非常规硬件跑 LLM」的项目每年都有几个,大多数是玩具级验证——能跑,但没人真用。PS5LM 不太一样:它有完整的电视端 UI、双协议 API、模型管理器、硬件监控,甚至接上了决策模型生态。这不是一个概念验证,这是一个完成度出乎意料的产品。本文快速过一遍它的架构、数据与门槛,帮你判断它值不值得折腾。
它到底做了什么
一句话架构:llama.cpp 的 Vulkan 后端,跑在 PS5 的 RDNA 2 GPU 上。PS5 的 GPU 有 36 个计算单元,与 CPU 共享 16GB GDDR6 内存;PS5LM 给模型和上下文划出 11.4GB。llama.cpp 认识的所有架构与量化格式照单全收,Q4_K_M 这类常规量化直接可用。
对外它是一个标准的推理服务器:OpenAI 格式的 /v1/chat/completions、Anthropic 格式的 /v1/messages(官方明确说 Claude Code 可以直接指向它)、加一个任意浏览器可开的聊天页,统一监听主机的 8081 端口。README 的口号很直白:你的 PS5 跑模型,你网络里的每一台设备都用它。手机、笔记本、家里的编码工具,改个 base_url 就接入。
实测数据:先看硬数字
README 给了 PS5 Slim 上的实测表,这是全文最有信息量的部分:
| 模型 | 体积 | PS5 Slim 实测 |
|---|---|---|
| Qwen 3.5 0.8B(Q4_K_M) | 0.5GB | 207 token 每秒 |
| Qwen 3.5 9B(Q4_K_M) | 5.3GB | 55 token 每秒 |
| Qwen 3.8 27B(UD-Q2_K_XL) | 9.2GB | 约 20 token 每秒,64k 上下文 |
| d1 Omni 600M 决策模型 | 1.1GB | 3 个问题 0.3 秒 |
解读一下:9B 模型 55 token 每秒已经超过人类阅读速度三倍以上,对话体验完全成立;27B 压到 2bit 极致量化后 20 token 每秒,属于「能用但不爽」的档位,配合 64k 上下文适合文档问答这类重上下文轻生成的任务。11.4GB 的显存预算意味着 9B Q4 是舒适区、13B 级 Q4 勉强、27B 必须极限量化——选模型时按这个预算表对号入座。
决策模型是另一番景象:d1 Omni 600M 三个分类问题 0.3 秒答完,720p 图片加七个问题也只要 2.9 秒。一次前向、不生成文本的架构天生适合这种低算力高频率的场景,后面单说。
最意外的部分:决策模型上了电视
PS5LM 最近的新功能是与 Ollaya 生态打通——Ollaya 是「用 Ollama 的方式跑开源决策模型」的项目,PS5LM 把同一套 systemone 端点搬上了主机。发一段状态文本加一组结构化问题,控制台一次前向返回类型化判定与校准概率,全程不生成一个字。
一个 600M 的模型加一台静音常开的游戏机,组成的是一个非常便宜的事件分类节点:工单意图识别、消息情绪判定、图片是否包含敏感内容,这类「每分钟几百次、每次毫秒级」的判定任务,传统上要么上云要么占一张卡,现在可以塞进客厅的电视盒子。README 里的示例是一段客服文本判定「用户要退款还是要信息还是要取消」,输出结构化的选项与布尔字段——这用法一旦想通,场景会自己冒出来。
带图像投影器的模型(Gemma 4、MiniCPM-V、d1)还支持拍照输入,电视聊天里直接发图做视觉问答。
工程完成度:像样的产品,不像样的平台
抛开跑模型这个主功能,PS5LM 的细节完成度是它从「玩具」跃升到「工具」的关键:
- 电视 UI 五页齐全:Home 显示模型状态与实时请求流;Models 页管下载、加载与搜索;Console 页画温度、功耗、GPU 与 CPU 负载的时序图;API 页直接展示端点与示例;Settings 页管配置。手柄就能完整操作,十字键选模型、方块键发演示请求、三角键开键盘。
- 模型规划器:加载前先读每个 GGUF 的元数据,自动给内存放得下的最长上下文与最优缓存配置——这是很多桌面工具都懒得做的体验细节。
- 下载管理:内置从 Hugging Face 直接下载,目标可以是内置存储、M.2 扩展或 USB 盘。
- 监控走正规渠道:温度与功耗数据通过 ps5-exporter(基于 elfldr 的 9021 端口)上报,数据是真实传感器读数,不是估算。
门槛与代价:把丑话说在前面
首先是越狱链:要求固件在 7.00 到 13.60 区间且已越狱,必备三个 payload——内核补丁 kstuff-lite、homebrew 支持 etaHEN、主屏挂载 ShadowMountPlus,另推荐 elfldr 与 ftpsrv 两个辅助工具。对没碰过 PS5 越狱的人,这一段是整个项目里最陡的学习曲线。其次是用途取舍:越狱机器与官方联机服务的关系是老话题,主力游戏机别动手,退役机或二手机才是正确载体。最后是性能天花板:RDNA 2 没有现代张量核心,吞吐注定不如同价位桌面显卡,把它当「静音省电的常开推理节点」而不是「本地推理主力」来定位,预期就对了。
结论:给谁的玩具,给谁的工具
如果你有一台闲置的越狱 PS5,PS5LM 几乎是零成本把一台游戏机变成全屋可用的推理与判定节点,完成度对得起折腾;如果你想找本地推理主力,同预算下一张二手桌面卡仍然更合理。它真正的启示在于:当推理门槛降到「任意 GPU 设备 + 一个 llama.cpp 后端」的抽象层,算力的分布方式就开始脱离「显卡插在开发机上」的默认想象——游戏机、电视盒子、机顶盒,任何有 GPU 和网络的角落都可能是一个模型节点。从这个角度看,PS5LM 的价值不在 PS5,而在它示范了一种最低成本的边缘推理形态。
项目地址在 GitHub 的 cobanov/PS5LM,应用从发布页下载,文档里有专门一章讲怎么把 opencode、Codex、Claude Code 指向这台主机。