8 月底,Dolly Parton 与 Tim Curry 相继离世后,一幅「天堂前台」漫画在社交网络上疯传:Parton 挽着打扮成 Dr. Frank-N-Furter 的 Curry,对上帝说她选对了同伴。单条推文两万五千个赞。右下角署着「BLOPER」——《纽约客》漫画家 Brendan Loper 的笔名。
漫画不是 Loper 画的,签名也不是。它由 ChatGPT 生成,最早由一位 Parton 的粉丝发在 Facebook 上,配文只是请 ChatGPT「画一幅纽约客风格的漫画」。接下来几周,Loper 的双胞胎兄弟、陌生人、邮件和私信接踵而至,都在问同一句话:这是你画的吗?
Nieman Lab 10 月 5 日的调查把这起个案放大成了一场系统性曝光:记者统计到超过十五位《纽约客》漫画家的签名被 ChatGPT 复用——Harry Bliss、Emily Flake、Joe Dator、Pat Byrnes、Jason Adam Katzenstein,甚至包括上世纪六十年代发表作品的 Warren Miller。有人形容这比信用卡被盗刷更难受:「信用卡被盗时,他们没有扮成我。」
签名:互联网出现之前的内容溯源协议
要理解为什么这件事值得写一篇长文,得先看清楚签名在内容生态里扮演的角色。漫画家 Emily Flake 说得很准:签名是「真实性的证书」——在漫画被频繁扒图转发的年代,它同时是署名和水印,把作品锚定到具体的人。Pat Byrnes 的签名末尾永远带一个句号,「像在签一封信」。
这是人类内容生态里运行了几百年的溯源机制:创作者用不可复制的个人印记为作品背书。签名之所以有效,恰恰因为伪造它需要刻意的犯罪意图——伪造画家的落款是要坐实的欺诈。而生成式模型把这套机制的根基抽掉了:签名在训练数据里只是与画面共现的普通视觉特征,模型学到的不是「这是身份标识,不可侵犯」,而是「纽约客风格的漫画右下角通常有这么一串笔画」。于是它欣然复刻——连 Byrnes 签名末尾那个句号,都出现在记者找到的每一幅伪造作品里。风格模仿与身份伪造在同一个采样过程里完成,模型没有任何机制区分二者。
这是整起事件最深的一层失守:我们的内容溯源协议建立在「身份不可被无意复制」的前提上,而生成式模型让复制身份变成了风格模仿的副产品。
训练端、法律端、平台端的三重失守
训练端的失守有实锤。上个月公开的纽约时报诉 OpenAI 案法庭文件显示,OpenAI 在开发期间系统性地绕过出版商付费墙抓取数据;微软内部备忘录把 ChatGPT 称作「摧毁自身供应链的产品」,把训练语料称为「人类历史上最大规模的劳动盗窃」。OpenAI 拒绝回答签名是如何进入模型的。合理的推断是:签名随漫画原作一起被抓取,然后在无数次梯度更新中被当作风格特征记住。
法律端的困境更微妙。康奈尔大学数字信息法教授 James Grimmelmann 的分析值得细读:版权诉讼的核心是复制具体作品,但 ChatGPT 通常并不复制任何一幅具体漫画,它模仿的是更泛化的风格——而在合理使用的判断里,署名只是很小的考量因素。他指出的替代路径是「公开权」(right of publicity),州法层面保护个人姓名与身份不被商业性滥用。但这条路要求证明伪造内容被用于商业目的,目前所有伪造漫画都是免费传播的恶搞图。法律在这类案件面前,正好差半步。
平台端的处理同样值得玩味。Nieman Lab 向 OpenAI 通报后,ChatGPT 开始对「生成纽约客风格漫画」的请求返回护栏提示——「此提示可能违反关于第三方内容相似性的护栏」。但截至发稿,生成其他风格的漫画时,它依然会把真名签上去。这里的模式很熟悉:**事后拦截针对的是被点名的具体对象,而非「签真名」这个行为类别本身。**护栏是枚举式的,问题却是开放式的。
也不是没有进展,只是方向错了
讽刺的是,内容溯源技术在过去两年其实有明显进展。C2PA 内容凭证被主流相机和平台采纳,OpenAI 自己也有输出水印检测工具——事实上,巴尔的摩太阳报被曝用 AI 漫画替换人类作品,正是靠这个工具确认的(该报去年解雇了做社论漫画三十余年、入围过普利策奖的 Kevin Kallaugher)。
但注意这些技术的共同点:它们标记的是**「这是 AI 生成」,而不是「这不属于这个人」**。输出侧的来源标识防伪内容冒充人类创作,却防不了 AI 内容冒充具体某个人类。前者是行业愿意做的(不影响模型能力),后者意味着要动训练数据里最有价值的部分——创作者的身份签名。技术能力与激励结构的错位,比任何单点技术缺陷都更根本。
给开发者的三个推论
第一,把身份信息从「风格」里解耦出来,当成硬约束处理。任何涉及真人、品牌、创作者名字的生成请求,拦截逻辑应该在推理层显式存在,而不是指望模型从训练分布里「学会尊重」。事后通知式的修补,这次已经证明了它的脆弱。
第二,如果你的产品在做内容审核或 UGC 治理,把「伪造署名」单列为一类风险。它不是普通的内容侵权,对被冒用者的伤害模式更接近身份盗用,处理优先级应该完全不同。
第三,训练数据管道里的署名脱敏会从「合规加分项」变成「必须项」。等第一批因为身份复现被起诉的判例落地——不管是走公开权还是别的路径——数据清洗的成本结构就会重新洗牌。早动手的团队会把这当作管道设计问题,晚动手的只能当诉讼问题。
签名是内容世界最古老的信任锚点。这起事件真正的教训不是某个模型出了 bug,而是当生成能力足够强时,任何靠「难以复制」维系的信任机制都会失效——留给我们的选择只有两个:把信任锚点迁移到密码学凭证上,或者接受一个所有署名默认存疑的内容生态。