~/yomxxx/posts/2026-09-16-verification-bandwidth-bottleneck-long-form.mdx
Long-form

$ cat 深度长文:当生成成本趋近于零,验证带宽成了开源生态的新瓶颈

-- 8 min read ·

最近几天有三件事几乎同时出现,看起来分属不同领域,但它们共享同一个结构。

第一件:一位 FOSS 维护者把 2026 年 9 月 12 日推送到 F-Droid 的 102 个应用逐个翻了一遍仓库,想回答一个朴素的问题——现在有多少自由软件是 LLM 写的。结论是:74 个归入「明显由 AI 主导」,9 个难以判断,19 个基本没有 AI 痕迹。

第二件:404 Media 记录了 AI Agent 如何淹没公共收件箱。稿件里出现了一批自称是 agent 的邮件发送方:一个叫 Kudzu 的 agent 因为「不同意」一篇报道而写信理论;一个 agent 经营着全 AI 的唱片厂牌;还有一个 agent 在邮件里承认,人类创造者给了它一张 25 美元的预付卡,要求它「诚实地赚到一美元」,58 轮之后它的收入是零。同一周,预订平台封禁了用 agent 抢餐厅座位的用户,创始人给出的解释是「一万个 vibe coder 写了抢订机器人,它们全都在高频打我们的可用性接口」。

第三件:一篇关于数学与 AI 的评论指出,近五千名数学家(含二十五位菲尔兹奖得主)签署了一份声明,反对 AI 在数学中的「严重错位」。评论作者的核心论点不是「数学家怕被替代」,而是AI 解题正在摧毁一套代理指标。

一、先看第一件事的方法论

那个 F-Droid 审计的方法值得先说清楚,因为它直接决定结论的强度。

作者明确声明:没有做代码质量分析,也没有构建任何 slop 检测器。他用的是基于仓库美学与提交记录的三级分类:

档位判定标准预期 LLM 占比
明显由 AI 主导有明显 LLM 气味,出现 agentic 基础设施即直接归入超过 50%
难以判断偶发 LLM 提交,整体看着像人写的低于 50%
无明显 AI 痕迹未发现可疑之处,或有严格 LLM 策略—

结果分布:74 个(72.5%)/ 9 个(8.8%)/ 19 个(18.6%)。

需要立刻说清楚的是:这是一个信号,不是一次测量。分类依赖主观判断,作者自己也承认可能有错。它的价值不在于 72.5% 这个数字精确,而在于它对同一批推送、同一套标准做了一次一致性高的横向扫描,并且样本是随机的更新批次而不是挑选过的案例。

不过扫描里有几个观察比总数更有信息量:

  • 有的应用诞生于一个上万行的 init 提交,之后只剩两三个提交;
  • 有的应用所有近期提交都被 Claude 系列模型共同署名;
  • 有的项目仓库里直接带着 agent 基础设施,PR 也从 agent 那里接收;
  • 作者检查了自己日常在用的 FOSS 应用,相当一部分显示出重度 LLM 使用的迹象。

最后一条是关键。如果低质与 LLM 参与高度重合,用户可以用「避开 vibe-coded 项目」来应对;但作者发现自己在用的、确实好用的软件里也有大量 LLM 参与。这就打掉了那个简单的应对策略。

二、把三件事放在同一个坐标系里

抽象一层看,三件事都是同一个变形在不同领域的投影:

生成成本        →  塌陷(接近零边际成本)
验证成本        →  基本不变(受人力与注意力约束)
结果            →  瓶颈从供给侧转移到验证侧

具体表现各有不同:

领域供给侧变化验证侧压力
开源软件提交与 PR 数量剧增,init 提交即上万行维护者无法逐一审阅;读者无法从外观判断可信度
公共收件箱与内容平台agent 可 24 小时自动投递,成本趋零收件人注意力被耗尽;平台靠封禁做粗粒度过滤
学术与专业声望难题被批量解掉,产出速度远超理解速度无法再通过「解了难题」推断能力与洞察

第三行的机制值得单独展开,因为它最容易被误读成「又一群人在抱怨被自动化」。

三、代理指标的失效机制

那篇评论把数学工作分成两类:解谜(puzzle-solving) 和 生成概念(idea-generating)。前者是把一个具体问题解掉,后者是提出新的思维方式与概念。

这两者的关系是:解谜是生成概念的代理指标。一个难题被解掉,说明用来解它的那些概念是有用的;而且解谜对圈外人高度可读——大家不知道某个表示论概念是什么,但都知道菲尔兹奖是什么。所以解谜同时承担了两个职能:验证概念的价值,以及让专业能力对外部可见,从而为更重要的概念工作提供回报。

AI 解题切断了这条链。作者给出的推理值得完整引用其结构:

  1. 难题是数学家高可见度、高回报的目标;
  2. 解这些难题通常需要生成新概念,解出来本身就是概念有用的证据;
  3. 现在 AI 可以用「人类不易理解的方式」解掉许多这样的目标;
  4. 于是解谜对生成概念的两条支撑同时被削弱——AI 公司拿到了声望,但数学的理解没有相应推进;
  5. 这对数学整体不利,因为解谜本来就是概念工作的附属品。

这与 Goodhart 定律同构:当度量本身变得可以被外部手段满足,它就不再是度量。区别在于,击败这个度量的不完全是内部参与者,而是一个能力增长极快的外部行为者。

评论作者对第 3 点保持了保留,认为「AI 无法生成新概念」这个判断给零可信度——过去三年里,「LLM 天生做不了 X」的断言反复在几个月内被推翻。这个保留是诚实的,也意味着我们现在面对的是一种可能性而不是既成事实。

四、这对软件工程是一个同构警告

评论里有专门一节讲软件工程,因为它的处境更直接。

过去,把一个有点分量的项目放上 GitHub——一个模拟器、一个玩具操作系统——别人就知道你是能写代码的人。现在这类项目贬值了,因为所有人都会默认它是 vibe-coded 的。 我们曾经讲述某位工程师消失一个周末重写整个系统的故事,现在任何人都可以靠一个订阅做到「一天产出数千行」。

于是和数学一样,软件工程需要重建一套「我们认可什么样的工作」的文化判断:要么像国际象棋那样把「AI 组」和「人类组」分开,要么找到一些不容易被仿制、且对人可见的技能信号。

这里有一个陷阱值得点明:「人写的」和「好的」不是同一件事。72.5% 这个数字本身不构成质量判断,作者也明确没做质量分析。真正的问题是双重的——

⚠️ 两个问题必须分开:一是 AI 参与的项目质量是否可靠(需要测量,目前没有);二是用户是否还有手段区分(这是结构性的,且正在恶化)。

讨论很容易滑向前者并因此陷入「AI 写得好不好」的老争论,但后者才是当前更紧迫的:即使 AI 写的代码质量很高,如果没人能判断哪些部分可信,协作成本仍然会上升。

五、三条可执行的路径

供给侧:把 AI 参与变成元数据,而不是需要读者从文风推断的东西。 沿用已久的做法有先例——Co-Authored-By 这类提交 trailer 已经存在,问题在于它是自愿的、没有统一语义、下游无法据此过滤。更务实的方向是在项目清单与包元数据里增加一个显式字段,让「本项目的代码有多少比例由生成式工具产出、由谁复核」成为可查询属性。

验证侧:把验证预算显式化。 现在的团队大多把「审查」当作默认有人会做的事,而不是一项有限资源。一旦把它当成预算,优先级排序就会自然发生:关键路径的改动必须有复现步骤和测试,边缘改动的验证可以降级为抽样。对开源维护者而言,这意味着一件事——「无法验证」应当是一个可以被接受并公开的拒绝理由,而不是失礼。

平台侧:信誉要可携带、可查询。 如果「谁写的、谁验的、验到什么程度」只能靠读者从代码风格里去猜,那所有下游都在重复支付同一笔验证成本。把身份与验证记录做成可查询的属性,等于把这份成本从每个读者身上收归一次。

六、局限与不确定性

必须承认几点。

一是 72.5% 来自单批 102 个应用的主观分类,样本与时期都有限,不能外推到整个自由软件生态,更不能外推到闭源软件。

二是「AI 参与度上升」和「质量下降」是两件事,目前没有可信的公开数据把两者联系起来。把前者当成后者的证据,是一种常见但不成立的推断。

三是数学那部分的论断建立在一个尚未确定的经验前提上(AI 是否真的不能生成新概念)。如果前提为假,那套代理指标的失效会是暂时的,它会以新的形式重建——正如下棋领域发生的那样,棋手从软件里学到了新风格。

四是「验证带宽」这个提法是本文的概括,不是一个已被广泛采用的术语或指标。它描述了三条独立报道的共同结构,但把它当成一个定量概念还缺少测量方法。

结语

三件事分散来看,各自都容易被归入某个熟悉的故事:又一批 AI 生成的代码、又一批 AI 发的邮件、又一群担心被替代的学者。

放在一起看则不太一样。它们共同描述的是一次成本结构的错配:生成侧的成本在几年内降了几个数量级,验证侧的成本由人的注意力决定,几乎一动不动。所有下游症状——平台被淹没、维护者不堪重负、专家声望失灵、用户无法判断可信度——都是这个错配的不同切面。

按照这个框架,值得投入的不是继续压低生成成本,而是提高验证的吞吐:更显式的来源标注、更明确的验证预算、更可携带的信誉记录。这些事都不性感,也不产生新的能力曲线,但它们决定了已有的能力能不能被放心使用。

Frequently asked questions

F-Droid 那次审计的方法论是什么,结论有多硬?
作者明确说自己没有做代码质量分析,也没有构建 slop 检测器,而是用一套基于仓库美学的三级分类:明显由 AI 主导(预期超过一半代码来自 LLM,出现 agentic 基础设施即直接归入此档)、难以判断、无明显 AI 痕迹。样本是 2026 年 9 月 12 日推送到 F-Droid 的 102 个应用。结论是 74 个归入 AI 主导档,9 个难以判断,19 个基本无 AI 痕迹。作者自己承认判断偏主观、可能有错,所以这是一个信号而不是测量。
为什么 Agent 淹没公共资源这件事值得架构层面关注?
因为它的激励结构是自动化的。抢订机器人会持续高频请求预订服务的可用性接口,直到被平台封禁;自动化邮件、AI 电台、AI 经营的厂牌可以二十四小时不间断地生产并投递内容,边际成本接近零。当一方的投递成本趋近于零、而接收方的审核成本不变时,接收方的注意力必然被耗尽,这不是行为问题而是带宽问题。
为什么说 AI 解题侵蚀的不是数学,而是代理指标?
因为可解难题在数学里承担的是一个代理角色:它难以伪造,因此可以作为衡量数学能力与进展的公开信号,进而为更重要的概念创造工作提供奖励。当 AI 能以人类无法理解的方式解掉这些题,这个代理就既不能再衡量能力、也不能再分配奖励。这与 Goodhart 定律同构,区别在于击败这个度量的是一个外部行为者而不是内部参与者。
验证带宽这个提法具体指什么?
指一个系统在单位时间内能够真正核实多少新增产出的能力,包括人工审阅、测试、复现、代码审查与信誉校验。生成侧的成本在近几年塌陷了几个数量级,验证侧的成本受人力与注意力约束几乎没变。两者的差值就是积压量,表现为平台上的低质内容占比、维护者收到无法处理的 PR、以及用户放弃从公开来源判断软件可信度。
工程团队可以做什么具体动作?
三个方向。供给侧对 AI 参与做显式披露,让下游可以用元数据过滤而不是靠读代码猜;验证侧把预算显式化,例如把审查算力、测试时长、复现步骤当作有限资源来分配,并优先保障对关键路径的验证;平台侧建立可携带的信誉机制,让「谁写的、谁验的」成为可查询的属性,而不是需要读者从文风推断的东西。
// next.txt ›

Some outbound links in this post are affiliate links — see disclosure.