辛顿要 AI 过「FDA 那道门」：监管真正难的不是门槛，是拿什么当证据
诺贝尔奖得主、被称为"AI 教父"的杰弗里·辛顿，在周二播出的播客《Smart Girl Dumb Questions》中提出了一个直白的类比：AI 公司在产品正式发布之前，必须先向监管机构证明它安全。
他的原话逻辑很清楚："你不能直接研制一款新药就把它推向市场。你必须说服 FDA。为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。""对于人工智能而言，至少也应当设立这样的要求。"
他为什么这时候说
两个背景叠在一起。一是各界关于 AI 带来灾难性后果的预判在增加。二是OpenAI 在测试之后，出于对模型是否服从用户指令、是否恪守权限边界的担忧，搁置了自家最新模型。OpenAI 安全系统负责人 Saachi Jain 此前对媒体表示，GPT-6.1 Astra 在持续处理高难度任务上有进步，但在权限管控与行为日志反馈方面仍存在短板。
辛顿还点了他最担心的一件事——递归式自我改进："我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助 AI 本身去改良 AI。"他给了一个时间判断："距离局面远比现在糟糕，大概也就只剩一两年时间了。"并且明确说这属于他的推测。
类比成立吗：三处关键差异
- 终点指标。药物有明确的有效性与安全性终点（覆盖率、并发症率）。模型的"服从边界"缺一份公认考纲——权限管控要测多少条用例、日志回传要多实时，目前没有统一答案。
- 版本粒度。药品上市即定型；模型每周更新，季度审一次等于没审。审"发布流程"比审"某个版本"更现实。
- 成本归属。十亿美元级别的投入对制药业是可摊薄的固定成本，对数百家模型供应商则是直接淘汰机制——门槛本身就是产业政策。
对从业者的实际影响
如果你在企业里选型，短期内不必等"AI 版 FDA"，但要开始准备能被外部审计的证据：权限清单、行为日志、越权测试记录、版本变更说明。这些现在是你自己的事，未来很可能变成采购前置条件。
参考来源
延伸阅读：中美顶尖模型只差 3%：真正被改变的不是排名，是「追赶」的成本结构 · Mistral Large 4 的 1T 参数和 49B 激活：欧洲拿出的不是「最强」，是「另一种选项」