人类技术史上大概没有先例：造东西的人公开承认，自己不知道造出来的东西是怎么工作的。Dario Amodei 在《可解释性的紧迫性》里把这层窗户纸捅破了，而且给出了我读过的对这件事最准确的描述：生成式 AI 更像是被养出来的，机制是涌现的，没人把那些行为一行行写进去。
文章的论证分三步。第一步讲问题：对齐失败、滥用、高风险场景不敢商用、AI 的科学预测给不出人类可懂的洞见，这些看似不相关的麻烦被他统一归因到同一个根源，不透明。第二步讲可行性：机制可解释性这些年的突破链，从单个神经元对应单个概念，到用稀疏自编码器从模型里提取出三千万个可读特征，到那个著名的实验，人为放大"金门大桥"特征后模型满脑子都是桥，再到能追踪多步思考的回路。第三步讲紧迫性：按他的估计，可解释性要五到十年才能成熟成可靠的诊断工具，而接近"数据中心里的天才之国"级别的 AI 可能 2026 到 2027 年就到，两条时间线不相交，缺口就是标题里的"紧迫"。
全文最让我服气的是一段元论证。为什么 AI 风险辩论这么两极化？因为欺骗和权力寻求这类担忧拿不到内部证据，没法抓现行，剩下的只有理论推演，有人觉得无比可信，有人觉得可笑至极，而且双方都情有可原。这是我见过的对这场辩论僵局最好的解释。他顺势把自己从辩论里抽出来，变成解释辩论为什么存在的人，然后指出可解释性正是打破僵局的仲裁工具。怀疑派和恐慌派，都被他收编成了潜在支持者。
我们停不下这辆巴士，但我们可以给它打方向。（Dario Amodei, The Urgency of Interpretability）
不过有两处我持保留意见。
一是万能钥匙化的倾向。五类风险都和不透明有关，这没错；但"有关"悄悄升格成了"可解释性是解法"。就算完全看懂模型内部，滥用问题的主体是人，治理问题的瓶颈在制度，可解释性对不同风险的边际贡献差异巨大，文章把它们打包处理，抬高了读者的预期。
二是紧迫感的刻度尺。赛跑的两端，可解释性五到十年成熟，强 AI 两三年内到来，两个估计都出自他本人。分子分母都是自家给的，缺口大小就完全由叙事者控制。事后看，“天才之国"到今天也没出现，分母端明显被压短了。紧迫感可以是真诚的，读者仍然该知道尺子是谁的。
即便如此，这篇文章里有两样东西我认为值得所有人带走。一样是那个罕见的、带截止日期的公开承诺：2027 年让可解释性能可靠检测出大多数模型问题。AI 安全领域充斥着没法验收的表态，这种可以逐年对账的目标是稀缺品。另一样是方法论：可解释性是对齐的测试集，训练技术是训练集，两者必须隔离，评估信号一旦被拿去优化就会失效。这条原则远超 AI 安全的范围，任何用 AI 干活的人都用得上，你用来审稿的标准，别原样写进生成指令，否则产出只会表演合规。
我的判断：这是近几年最好的 AI 安全公共写作，用暴露弱点的方式构建可信度，和布道体是完全不同的路数。但它同时是一份公司战略文件，紧迫性的刻度和解法的边界都由利益相关方绘制。两件事同时成立，读的人两头都要拿住。
原文: The Urgency of Interpretability, 作者 Dario Amodei, 发布于 2025-04