Hacker News 周日挂了条 170 分的帖子:「Hybrid Reasoning Agents: LLM agents that think in latent space, act through text」。论文 10 月 13 日提交到 arXiv,编号 2610.18861,作者是斯坦福团队的 Jiaru Zou、Yunzhe Qi、Sirui Chen、Federico Bianchi、Shang Zhu、Pan Lu、Jingrui He 与 James Zou。它要解决的问题是当下 Agent 领域一个真实的拧巴:想要文本推理的透明与工具友好,又想要潜空间推理的省钱高效,能不能全都要?
问题:两种推理介质,各缺一半
现代 LLM Agent 的主流做法是让模型把思考写成文本——ReAct 式的「想一步、调一个工具、再看结果」。这条路的好处立竿见影:过程可读、可调试、工具调用有天然的文本接口。代价同样立竿见影:每一个内部想法都要按 token 付费,长链路 Agent 的账单里一大半是模型的自言自语,而且这些自言自语还要占用有限的上下文窗口。
另一条路线是潜空间推理:不把思考落成文字,直接在连续隐状态里往下算。Coconut 等工作证明了这条路在数学等任务上能用远少于文本推理的步数完成推理。但它有两个硬伤:缺乏原生工具访问能力(工具吃的是文本,吐的也是文本),以及推理过程不透明——出了事你都不知道它「想」了什么。
论文的立论因此很清晰:两种介质不是竞争关系而是分工关系。缺的是一个能让模型在同一个生成过程里动态穿梭于两者之间的架构,以及教它何时切换的训练方法。
架构:HybridLink 加连续工作记忆
HybridAgent 的核心是两个设计。
HybridLink 是一个轻量桥接模块:把模型最后一层的隐状态映射回输入嵌入空间,让潜空间里算出来的「念头」能被后续前向继续消费,同时保留随时切回文本模式的能力。它不替换主干,只是在两种表示之间打通,成本很低。
连续工作记忆解决跨轮次问题:Agent 的多轮交互中,历史里既有文本也有潜状态,工作记忆负责把混合上下文无损地保留下来,不让模式切换造成信息损失。这两个设计组合起来,论文给出的架构图显示智能体在推理时动态切换两种生成模式,产出一条平衡「内部思考」与「外部交互」的混合轨迹。
训练分两步走,对应两个算法:
- HybridSFT:先通过监督微调教主干与 HybridLink 协作,稳定工具集成的混合生成——让模型先学会「两种模式都能正确产出」。
- HybridRL:再用强化学习规模化推理能力,核心奖励的是模式选择策略——什么时候该在潜空间里想,什么时候该用文本行动。
这个先后顺序有工程逻辑:直接上 RL,模式切换的表示还没稳,奖励信号会被噪声淹没;先 SFT 把桥修通,RL 只需学策略。
实验:三档规模、11 个基准
论文用 Qwen3-Base 在 4B、8B、14B 三个规模上实例化并训练 HybridAgent,基准覆盖数学、科学、医学、知识密集型搜索与高难度 Agent 推理,共 11 个。主结果表按难度分级报告了 GAIA 与 WebWalker,按类别报告了 HLE(NS/CE/SF),SealQA 分 Seal-0 与 Seal-Hard 两个切分,DSQA 报告全对率与 F1。5 次独立运行的平均标准差为正负 0.014, reproducibility 交代得比较扎实。
对比阵容是全方位的:前沿模型智能体一路有 GPT-5.6-Luna、Kimi-K3、GLM-5.3-Flash、DeepSeekV4.1-Flash;Agent 框架一路有 ReAct、WebThinker、Search-o1;潜空间方法一路有 Coconut、SoftThinking;同规模对照还有 Qwen3-8B thinking 模式。
主结果一句话:平均性能提升 10.4%,同时 token 消耗降低 35.5% 到 54.7%,推理加速 1.8 到 2.6 倍,计算成本下降 2.7 到 3.7 倍。「同时」是这篇论文的关键词——过往的效率方法大多要在质量上找补,这里是质量效率双收,论文也强调这一优势在文本与潜空间两类对比方法上都成立。
深入分析:两个模式的分工
论文最有洞察力的部分不是主表,而是第 6 节的三个深入分析,其中一个结论值得每个做 Agent 的人记住:HybridAgent 把更多内部推理转移到语义丰富且可解释的潜空间思维中,同时把文本留给外部检查与工具交互。
翻译成工程语言:不需要给人看的步骤不再烧 token,需要人看和需要喂给工具的步骤仍然是文字。这直接回应了潜空间推理「黑箱」的担忧——在这个架构里,审计接口没有丢,只是用在了刀刃上。另一组分析聚焦工具使用的可靠性与训练动态,观察 HybridSFT 与 HybridRL 两个阶段各自稳定了什么,对复现者是不小的参考。
工程意义与冷静期
对做 Agent 的团队,这篇论文的吸引力是具体的:如果你的 Agent 账单被思维链 token 淹没,如果上下文窗口被多轮自言自语挤爆,「让模型把一部分思考搬到潜空间」是一个有完整训练配方(SFT 加 RL 两阶段)、有开源代码数据、有 14B 规模验证的选项。10.4% 的平均提升叠加最多 54.7% 的 token 削减,在成本敏感的生产场景里不是小数点。
但也要把丑话说在前面。其一,全部实验绑定 Qwen3-Base 单一模型家族,换主干后 HybridLink 的映射是否需要重训、HybridRL 学到的切换策略是否迁移,论文没有回答,作者自己也把「更大规模的泛化」列为开放问题。其二,对比方法里 Coconut 等潜空间基线的绝对分数偏低,10.4% 的领先幅度有多少来自公平的训练配方匹配,需要复现者自己判断。其三,多出来的 HybridLink 与工作记忆在推理引擎里意味着额外的表示搬运,工程集成成本论文未量化。
结论:这是一篇方向正确、配方完整、证据扎实的论文,值得每个做长链路 Agent 的团队放进待复现清单;但把它当生产方案直接上线还太早,正确的姿势是在自有任务上按它的两阶段流程小规模验证,重点观察模式切换策略的迁移性。