把 AI 当日记本的那次报警：聊天机器人没有保密特权

这件事的关键不是「AI 出卖了用户」，而是公众对 AI 对话的法律地位存在系统性误解：它既不是日记本，也不是心理咨询室。

一、事件本身

• 美国佛罗里达州李县一名 30 岁女子，因在与 Claude 的对话中威胁枪击当地警长办公室被捕，相关表述触发了 Anthropic 的安全风控机制。
• 经人工审核后，Anthropic 向执法部门作了通报。
• 该女子自称把 AI 当日记用。她目前面临一项书面暴力威胁指控，尚未被法院定罪。

二、三个容易被忽略的事实

• 服务条款里有「紧急披露例外」。Anthropic 的政策显示，在涉及紧迫人身安全风险时可以披露。
• 与 AI 的对话不受保密特权保护。律师—客户、医生—患者那类特权，并不适用于模型服务商。
• 判断由「模型 + 人」两级完成。不是模型自动报警，而是先触发风控、再由人工复核后决定是否通报。这个两级结构决定了误报与漏报的分布。

三、对读者的实际影响与建议

• 别在对话里写你不想被任何人看到的内容，包括违法意图、他人隐私与商业机密。
• 区分场景：把 AI 当「整理思路的草稿本」没有问题；但涉及情绪危机、医疗、法律的内容，要意识到存在被上报的可能，且模型并不承担保密义务。
• 企业侧：如果把对话式 AI 接入员工支持或心理支持渠道，必须提前写明「非保密，存在自动风控与上报」。这既是合规要求，也是信任基础。
• 反过来看，对安全团队而言，「风控 + 人工复核」是值得复用的模式：纯自动上报的误伤成本高，纯人工审核又扛不住量。

四、需要注意

• 事件仍在司法程序中，指控不等于定罪。评价时应对准「已发生的风控流程」，而不是对当事人下判断。
• 不同厂商的披露政策与触发阈值不同，具体条款以各家最新服务协议为准。

参考来源

• IT之家：《美国佛州一女子把 AI 当「日记本」用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警》 https://www.ithome.com/1/009/795.htm

延伸阅读：三个机器人做同一个演示之前：英伟达想投 Figure 10 亿美元，暴露的是「落地焦虑」 · 机器人装 AI 服务器：95% 成功率背后，门槛在节拍不在能力