AI安全 on Sone Blog

让模型多想一会儿，到底在多什么

Fri, 26 Jun 2026 20:00:00 +0800

o1 和 R1 火了之后，“让模型思考"成了行业口头禅，可为什么多想一会儿就更聪明，这个最基础的问题反而很少有人讲透。Lilian Weng 在 2025 年 5 月发的长篇综述《Why We Think》，用 54 篇文献把这条线从头到尾捋了一遍。她写博客有个老规矩，从不追单篇热点，等一个方向积累到临界点再一次性收割，这篇又是如此。

给你的 AI 助手画个三角: 读懂"致命三要素"再谈智能体安全

Thu, 04 Jun 2026 15:00:00 +0800

有些概念一出场就注定要进行业词汇表, Simon Willison 的"致命三要素"就是一个。他给 AI 智能体安全立了一条极简判据: 当一个系统同时能访问你的私有数据、会处理攻击者可控的内容、又有把信息发出去的通道, 那么被骗走数据只是时间问题。三者缺一, 攻击链就断; 三者齐备, 入口、目标、出口全都到位。

把预言写成日历: AI 2027 最值得偷的东西

Sun, 24 May 2026 10:00:00 +0800

一份挂在网站上的预测报告, 能火到什么程度? 纽约时报专栏报道, Vitalik Buterin 专门写长文反驳, 据维基百科的词条记载, 连美国副总统 JD Vance 都读过。AI 2027 就是这样一份东西, 我断断续续读完之后, 想清楚了一件事: 它的结论未必对, 但它的方法值得每个需要做判断的人学一遍。

打开黑箱是一场赛跑，可计时器握在选手自己手里

Thu, 21 May 2026 11:00:00 +0800

人类技术史上大概没有先例：造东西的人公开承认，自己不知道造出来的东西是怎么工作的。Dario Amodei 在《可解释性的紧迫性》里把这层窗户纸捅破了，而且给出了我读过的对这件事最准确的描述：生成式 AI 更像是被养出来的，机制是涌现的，没人把那些行为一行行写进去。