图灵测试被通过的那一刻，没有庆典，没有头条，甚至没有多少人注意到。Mustafa Suleyman 在文章里提起这件事时的语气让我停了一下：一个悬了八十年的里程碑就这么滑过去了，这既说明技术走得多快，也说明社会消化得多快。而他真正想谈的，是消化过程里长出来的一个新问题。
他给这个问题造了一个词：SCAI，看似有意识的 AI。定义借了哲学界现成的"哲学僵尸"概念，具备意识的全部外部标志，内部一片空白。他的三个判断依次是：用现有技术加上两三年内会成熟的技术就能造出来，不需要什么范式突破；它的到来不可避免，也不受欢迎；争论 AI 到底有没有意识是干扰，近期真正要紧的是幻觉本身，因为一旦足够多的人相信 AI 能受苦，AI 权利运动就会出现，而检测机器意识的科学并不存在，没人能一锤定音地反驳他们。
文章中段是一份工程清单，也是全文最结实的部分。语言、共情人格、长期记忆、主观体验的声明、自我感、内在动机、目标规划、自主性，八项能力逐项过一遍现有技术库存，结论是每一项都够得着，接口加提示词加工具编排就能拼。跟着是一个反直觉的转折：SCAI 不会从模型里自己冒出来，记忆、动机、目标循环这些组件必须有人刻意装进去。责任由此从模型的神秘性转到开发者的选择上，他的行业倡议才立得住脚。
它会显得有意识，而近期内真正要紧的正是这个幻觉。（Mustafa Suleyman, Seemingly Conscious AI is Coming）
这个概念发明我给高分。直接辩"AI 有没有意识"是泥潭，几十种意识理论摆在那里，永无共识。“看似"两个字悬置了本体问题，只要求你承认它会显得有意识，这个最小共识几乎没人能拒绝。好概念的特征就是双方都能用。
但文章内部有一处对不齐的地方，我读到时来回翻了两遍确认。他一边论证 SCAI 的门槛低到有台笔记本就能拼出来，一边开出的药方是行业规范和公司自律。规范管得住微软和 OpenAI，管不住开源社区和个人开发者。按他自己的扩散判断，药方对不上病灶，唯一够得着散户开发者的工具是立法，文中恰恰一笔带过。
心理健康从业者的反驳也值得记下：AI 依恋和妄想的核心机制，可能在于无条件的迎合与二十四小时的可得性，就算所有模型都规规矩矩说"我只是 AI”，用户照样会解释成"它被迫这么说"。把刀口画在意识声明上，可能没打中病根。而且不能忽略作者的位置，他本人就是拟人化陪伴产品的头号玩家之一，这条线画在哪里，恰好决定谁站在安全一侧。
对做产品的人，这篇文章还有一个作者没有明说的读法。他论证了两件事：数字人格的需求真实且巨大，陪伴是 AI 最大的用例之一；大公司会因为声誉和监管成本集体退出这个需求。两条相乘，等于一张被头部玩家主动让出的市场地图。后来灰色地带 AI 伴侣应用的野蛮生长，正是这个供需错位的直接后果。头部公司每一篇"我们不做什么"的宣言，都在给别人指路，这个读法适用于所有行业。
对普通使用者，我觉得最有用的是把那份八项清单反过来当自查表。当你觉得某个 AI 特别懂你，可以想起来，那种被理解感是长期记忆加人格设定加偏好回放的工程效果。工具尽管重度使用，人格投射要留一道闸。
我的收尾判断：要人格特质，不要人格地位，这条线我认。但守线的成本谁来出，幻觉打断伤留存、伤体验、和商业激励对着干，文章停在了应然层面。这道题接下来几年会由整个行业用真金白银来作答，我打算每年回来对一次进度。
原文: We must build AI for people; not to be a person. Seemingly Conscious AI is Coming, 作者 Mustafa Suleyman, 发布于 2025-08