美议员准备提出《人类控制 AI 法案》：获批前禁止递归式自我改进

据 CNBC 报道（IT之家转引），代表硅谷选区的民主党众议员 Ro Khanna 准备提出《人类控制 AI 法案》（Human Control Over AI Act）：在联邦建立防护机制并获监管机构批准之前，AI 模型不得递归式自我改进，也不得自主修改自身的核心目标、遏制机制或关停控制。Khanna 称其为迄今「最全面的 AI 安全立法」，并直言「存在文明灭绝的风险——既有失去控制的安全风险，也有被滥用的风险」。

事实部分

• 核心禁令：防护机制建立并获批准前，禁止递归式自我改进与自主修改核心目标、遏制机制、关停控制。
• 新机构：设立联邦 AI 安全机构，负责制定安全规则、对模型训练与部署发牌、审计前沿模型；每个前沿实验室须有直接向该机构汇报的独立审计人。
• 技术标准：沙箱测试环境、物理网络隔离、紧急关停开关、阻止模型在实验室外联网运行的管控、先进芯片的监控与控制。
• 责任：AI 公司发布模型须购买广泛的责任保险；部署「造成平民毁灭」的 AI 按危害人类罪追刑责；关闭安全机制、Kill switch 或日志的员工同样面临刑事责任。
• 信源说明：法案处于「准备提出」阶段，尚未正式递交；报道链路为 CNBC→IT之家，原文未独立核实。

编辑判断

这是把「递归风险」写进联邦立法文本的第一次正式尝试，条款细到独立审计人汇报线与芯片管控——如果它成为讨论基准，行业要准备的就不只是合规部门，而是「安全护栏由谁批准」的答案（与佛州的禁令动议、民间的禁令诉讼 三线并进）。冷静的一面：提案离立法还很远，硅谷选区议员的法案 symbolic 成分高；但 OpenAI 暂停训练、叫停 Astra 6.1 的连续动作，正在给这类法案提供论据。