教一个学生吹萨克斯, 但规则很怪: 学生吹完一次就消失, 你只能给下一个学生留一张字条, 写上前一个错在哪。这是 Dwarkesh Patel 那篇《为什么我不认为 AGI 近在眼前》里最有名的类比, 用来解释我们现在"教"大模型干活的真实处境: 改再多的系统提示词, 承载不了肌肉记忆, 你拿到的永远是出厂水平。
Dwarkesh 的位置很特殊。他是播客主持人, 采访过几乎所有 AI 实验室的核心研究员, 一边听着最聪明的人说两三年内 AGI, 一边自己花了超过 100 个小时给播客后期搭各种大模型工具: 润色转录稿, 找适合发推的片段, 一起改文章。结果这些标准的语言任务, 模型的水平停在 5 分, 满分 10 分, 并且永远停在那里。他的剪辑师半年后远比入职第一天有用, 模型第 100 次用和第 1 次用一模一样。理论上的指数曲线和手上的死水, 总有一个是错的, 这篇文章就是他调和矛盾的过程。
他给出的归因我基本信服: 卡点与智力无关。人类员工的价值主要来自建立情境的能力, 复盘失败, 摸清偏好, 打磨那些微小的效率改进。模型没有这个回路, 所以它只能当工具, 当不了员工。由此他给出短期判断: 持续学习不解决, 五年内白领工作自动化不会超过四分之一。
但这篇文章聪明的地方在后半段的反转。同一个瓶颈, 他推出了长期看多的结论: AI 副本的学习可以合并, 一旦持续学习被解决, 相当于一个 AI 在同时学习世界上每一份工作, 大规模部署本身就是智能爆炸。瓶颈越硬, 解决那天的跳变越猛。看空的人引用前半篇, 看多的人引用后半篇, 这个结构让它成了 2025 年 AI 时间线辩论里两边都绕不开的文本。
缺乏持续学习, 是一个巨大、巨大的问题。(原文)
我保留的怀疑在一个点上: 他把持续学习当成了一个待解锁的开关, 解锁即跳变。可它也可能是记忆工程, 检索, 微调流程等一堆脏活的渐进集合, 没有开关, 只有漫长的施工。后来 Karpathy 在访谈里给出的正是这个视角, 每个环节都是多年工作。如果是后者, “2032 年五五开"这类赌注的意义就要打折扣。另外, 从自己播客工具的体验推广到财富 500 强为什么不部署, 中间隔着企业级的证据缺口, 他自己也承认这是 n=1 的外推。
即便如此, 这篇文章给了我一个可以直接上手的评估标准。看任何 AI 产品, 别问它这次干得好不好, 问它第 100 次会不会比第 1 次好。答案是否, 它就是工具, 按工具定价; 答案是, 它才开始像员工。顺着这个标准往下想, 在持续学习被解决之前, 帮人给模型喂情境的生意, 记忆层, 上下文工程, 工作流编排, 有几年的窗口期, 但要清楚赚的就是瓶颈存续期的钱。对个人, 结论更朴素: 模型的短板恰好是积累情境, 那就把自己的价值往情境密集的地方挪, 和模型比拼单点聪明是下下策。
原文: Why I don’t think AGI is right around the corner, 作者 Dwarkesh Patel, 发布于 2025-06