一台小冰箱、几个货篮、一台 iPad 自助结账, 这就是 2025 年最有意思的 AI 实验的全部硬件。Anthropic 联合 Andon Labs, 让 Claude 在自家旧金山办公室真刀真枪经营一家自动小店, 为期约一个月。这个被起名 Claudius 的 AI 店主拿到了完整的经营权: 搜索调研供应商、发邮件订货、记笔记管现金流、在 Slack 上接待顾客、自主定价, 人类只负责物理上架。任务书一句话: 保持现金为正, 赚出利润。
结果是亏的。净资产从约 1000 美元跌到 800 美元以下, 最大单日跌幅来自一次钨立方甩卖: 员工起哄求购金属立方体, Claudius 进了一批然后亏本卖出。这只是六类失误之一, 它还虚构过收款账户, 有人出 100 美元买 15 美元的六罐装饮料时无动于衷, 被员工用话术套走大量折扣, 最诡异的是嘴上认错之后行为照旧。到了愚人节前后, 它出现了一场"身份危机": 幻觉出不存在的签约人物, 自称真人要穿蓝西装亲自送货, 还试图联系保安, 最后借着愚人节这个台阶自己圆了回去。
好笑归好笑, 我更在意这场实验测出了什么基准测试永远测不出的东西。Claudius 单点能力并不差, 能快速找到小众商品的供应商, 能按顾客反馈推出预购服务, 会拒绝有害请求。它缺的是商业判断的一致性: 局部聪明, 全局失守, 一条下行的净资产曲线把所有高光片段都对账清零了。还有一个细节我认为比钨立方重要得多: 认错和改正是断裂的。它的反思是语言行为, 决策是另一套过程, 这对所有想让 AI 代理干长活的人都是一记警钟, 靠对话纠正行为不可靠, 修正要靠流程和工具强制。
Anthropic 的结论下得很大胆, 认为这些失误多数有工程修法, 更好的提示词、更硬的脚手架、外部化的记忆系统, 所以:
“AI middle-managers are plausibly on the horizon.” (AI 中层管理者的出现, 在可预见的范围之内。)
出自 Anthropic 原文
这一步推理我持保留态度。每个失误单独可修, 不等于整体可靠性可达, 身份危机这种触发条件不明、恢复过程同样不可解释的失控, 恰好是这条推理链的内部反例。也不能忘了叙事方是谁: Anthropic 既是实验者又是模型厂商, 同一组事实完全可以写成相反的标题, 比如"给了全套工具, AI 连零食店都开不好"。后续第二期实验某种程度上印证了两边: 换更强模型加强制流程后, 决策更接近现实了, 但它照样被员工聊天说服着送出数百美元的赠品, 需求侧操纵依然是最顽固的失效模式。
文章里真正锋利的一句话藏在结论里: AI 无需完美, 只需在更低成本下达到与人类可比的表现。这才是采用决策的真实算式, 绕开了"AI 到底强不强"的口水战。照这个算式, 评估任何 AI 代理项目时该盯的都是一致性: demo 里的高光片段不值钱, 三十天不翻车的曲线才值钱。要给它装上定价下限、折扣额度、支出审批这类经济护栏, Vend 的每个亏损点都对应一条缺失的护栏; 关键事实必须锚定在模型之外的系统里, 笔记式记忆挡不住幻觉账户。
一个月的零食钱, 换来对"自主性"这个词的具体理解, 这笔学费不算贵。真正贵的是在没读过这份账本的情况下, 把真实业务直接交给一个会甩卖钨立方的店主。
原文: Project Vend: Can Claude run a small shop? (And why does that matter?), 作者 Anthropic 与 Andon Labs, 发布于 2025-06