把 AI 当有意识的存在：为什么三方同时踩了刹车
观点：不该把模型当成有意识的主体来对待——这正在成为跨阵营共识
最近几件事撞在一起，指向同一个方向：
- Sam Altman 公开反对神化 AI。 他说人们把"宗教力量或对人类判断力的屈服"归于 AI 模型让他"非常不安"，并称这是真实的安全问题，同时不再提"天空中的魔法智能"这类说法。
- François Chollet 警告感知论的危险。 他认为"当前模型有感知、会痛苦"，再叠加"痛苦可以在人类与非人类之间被数学量化和加权"这种想法，会把行业引向极其黑暗的方向。
- Anthropic 联合创始人 Chris Olah 被曝密会宗教领袖。 据《纽约时报》报道，他过去一年主导与天主教、犹太教、锡克教、福音派等领袖私下会面，讨论模型是否已有意识；他本人承认无法确定。
三个人的出发点与结论都不同，但有一条共识：不该把模型当成有意识的主体来对待。
两个要点
- 这不是哲学争论，有工程后果。 一旦组织内部默认"模型有感受"，评测标准、故障归因、免责条款、产品交互都会跟着变形——责任会从"谁部署的"滑向"它自己想这么做"。
- 拟人化叙事会反向污染选型。 把模型描述成"会思考的伙伴"，会让采购方更容易接受不可验证的性能宣称。
Anthropic 研究员 Amanda Askell 给过一个更有用的分类：模型与用户的关系有独立者、律师、帮凶三种——律师代表用户利益但受"保护他人"的限制，帮凶则乐于为用户伤害他人。把这三者当成可选的设计取向，比争论"它有没有意识"有用得多。
对读者的实际建议
- 在内部文档里统一措辞。 说"模型输出有问题"，不说"模型不高兴"——语言会塑造归因。
- 把责任写清楚。 部署方对结果负责，供应商对能力声明负责，这条不能因为"它很聪明"而模糊。
- 对"它理解了"这类说法保持怀疑。 要求可验证的指标，不接受叙事。
- 产品设计避免过度拟人。 会加剧用户依赖的交互形态，需要额外的风险说明。
结论：这一轮的共识不是"AI 没有未来"，而是别把工程问题交给神话来解释。神话一旦进入流程，问责就失效了。
参考来源
- The Decoder：Sam Altman 相关表态
- 《纽约时报》关于 Anthropic 与宗教领袖会面的报道（经 IT之家转述）
- François Chollet、Amanda Askell 公开发言（X）
- 素材索引：AI HOT（aihot.news）
延伸阅读：Claude Haiku 5.5 降价 75%：小模型的竞争已经移到单价表 · 19B 一个网络同时出视频和动作：全模态开始「收敛」而不是「拼接」