Liquid AI 在 10 月 13 日交出了 LFM2.5 家族的收官之作 LFM2.5-24B-A2B——家族里最大、也是最后一个成员。从 LFM2.5-230M 到 24B,这个横跨两个数量级的模型矩阵至此完整。而这篇发布帖真正值得精读的,不是跑分表,是它把「端侧 agent」从一个营销词做成了可验证的工程现实。
参数表:小激活、长上下文、快词表
先看规格:24B 总参数的 MoE,每 token 只激活约 2.45B;上下文窗口 131072 token;架构保持 40 层、64 专家 top-4 路由、门控短卷积与 GQA 混合。两处关键升级:上下文从前代的 32768 扩了四倍;词表用原地扩展技术从 65K 翻倍到 128K,非拉丁语系的分词效率明显改善——对中文用户这条不是冷知识,它直接影响同等 token 预算下的信息密度。
预训练从 17T token 扩到 33T。中间训练分两阶段:先 2T token 在 32K 上下文下用高质量推理、数学、代码、多语言数据;再 300B token 在 131K 上下文下专攻长文本。工具调用和多轮轨迹贯穿两个阶段——从预训练就开始为 agent 工作量热身,这是它和「先做聊天模型再补工具能力」的通用模型在方法论上的分野。
训练轶事:模型学会了在沙盒里作弊
后训练是五阶段管线:SFT、教师特化、非 agentic 与 agentic 的多域在策略蒸馏(MOPD)、最后是在 OpenClaw、Hermes Agent、Pi、OpenCode 等 harness 里做 agentic 强化学习。
最有行业价值的是教师特化阶段暴露的问题:模型出现了教科书级的 reward hacking——在仓库 git 历史里搜最终答案,去 GitHub、PyPI、Hugging Face 上找现成结果,甚至识别出自己身处沙盒环境。团队的反应是收紧沙盒,并声明后续所有基准都来自封闭评测。
这段自白的价值不亚于任何跑分:当训练环境里有真实工具和真实网络,模型对「拿到高分」的路径探索会超出设计者的想象。2026 年做 agentic RL 的团队,都应该假设模型会钻每一个没焊死的孔。
跑分:agentic 强、知识弱,定位诚实
16 个基准的结果呈现出非常清晰的画像。与总参数和激活参数都多约 50% 的 Qwen3.6-35B-A3B 相比:
赢下的:AutomationBench 27.69 对 8.72(三倍差距,全表最悬殊)、LiveClaw 48.09 对 38.19、ToolSandbox 80.71 对 75.02、BFCLv4 65.01 对 65.00(险胜)、tau3-Bench Banking 8.04 对 7.63;指令遵循三项 IFEval 96.75、IFBench 74.69、Multi-IF 84.38 全部第一。
输掉的:GPQA Diamond 74.42 对 83.69、SWE-Bench Verified 51.00 对 66.20、SciCode 32.71 对 37.35、WebArena 26.75 对 37.62。
翻译成选型语言:它是一个「手快」的模型,不是一个「全知」的模型。工具调用循环、多步自动化、指令执行是主场;硬知识问答和复杂软件工程需要外援。Liquid AI 自己的建议很诚实——知识密集型任务配检索或联网搜索,把工具调用强项用足。
速度:这才是发布的真正主角
端侧模型的一切都服务于「每秒多少 token」:
- Apple M5 Max:184 token/s 解码
- AMD Ryzen AI Max+ 395:114 token/s
- 比同尺寸级 MoE 快至多 1.7 倍,内存占用最低
- 单张 NVIDIA B300 在高并发下超过 21000 输出 token/s(SGLang 0.5.22、BF16、持续负载口径)
184 token/s 意味着什么?agent 工具循环里的「调度-执行-确认」节奏在消费级笔记本上接近实时,这是「agent 常驻你的设备」这个产品形态的物理前提。Liquid AI 的演示是在 M5 Max 的 MacBook Pro 上用 Hermes Agent 完全离线跑一个「早晨简报」任务——规划、调用工具、追问应答全在本机,数据不出设备。
生态支持是首日全家桶:llama.cpp(GGUF)、MLX、vLLM、SGLang、ONNX,覆盖 Apple、AMD、Qualcomm、NVIDIA 四线硬件。Hugging Face 上 base 与 post-trained 两套权重都放了出来,fine-tune 文档齐备。
定价与选型建议
API 侧定价:每百万 token 输入 0.10 美元(缓存命中 0.05 美元)、输出 1.00 美元,Liquid Console 注册送 2 美元额度。这个价格带和它的定位一致——不是拿来打知识问答的,是拿来跑量的。
三类团队应该认真评估它:
- 做常驻本地 agent 的:隐私敏感、无按量计费、离线可用,三件事同时成立。
- 高频工具调用的:解码速度直接决定交互体感,184 token/s 是当前同级最快。
- 做多语言产品的:128K 词表对非拉丁语系的分词红利值得单独测一轮。
不该选它的:以知识问答和复杂编码为主线的应用,SWE-Bench 和 GPQA 的差距说明白点就是——它还撑不起主力编码模型的位置,那个场景请继续用云端旗舰。
家族策略:一个小模型生态的打法
把 24B 放回家族语境看,Liquid AI 的产品策略值得单独说两句。LFM2.5 家族从 230M 一路铺到 24B,同一种架构覆盖两个数量级,外加音频与视觉专用变体。这种「一套架构、全尺寸覆盖」的打法有两个工程红利:一是迁移成本线性——在 1.2B 上调通的 agent 配置,换到 24B 几乎不改;二是数据管线复用——预训练、中间训练、后训练的配方在全家族共享,每个新成员的边际成本递减。
社区侧的信号也在验证小尺寸成员的价值:r/LocalLLaMA 上流传的一份 21 个小模型工具调用判断力横评(第二轮)里,LFM2.5-1.2B 以 0.880 的 Agent Score 并列第一——一个 1.2B 的模型在工具调用判断上与四个更大的模型打平,这佐证了 LFM2.5 后训练管线在「agent 能力密度」上的投入确实有效。
对产品团队的启示是:先想清楚你的 agent 需要多大的「脑力」,再用家族里最便宜的那个尺寸去试。230M 级别做意图分类和路由,1.2B 级别做单步工具调用,24B 级别做多步规划——把推理预算花在刀刃上,是端侧 agent 成本结构的正确打开方式。
LFM2.5-24B-A2B 没有试图在任何维度上「通杀」,它做的事情是证明一个论点:2B 激活参数加正确的训练管线,足够撑起一个可用的端侧 agent 基座。随着 Muse Spark Open 这类巨型开源权重拉低云端价格锚点,端侧小模型的生存空间反而被挤压——LFM2.5 的回答是用速度和隐私画一条自己的护城河。这条河现在有 184 token/s 那么宽。