美国国会立法者近日提出一项重磅法案，旨在永久禁止超级人工智能（superintelligent AI）的研发与部署，并暂停先进AI系统的开发，违反者将面临最高20年监禁。该法案由参议员伯尼·桑德斯（Bernie Sanders，无党派-佛蒙特州）与众议员格雷格·卡萨尔（Greg Casar，民主党-得克萨斯州）于9月3日联合宣布，全称为《禁止超级人工智能法案》。
定义覆盖人类级AI与“剥夺人类权力”能力
根据法案摘要，超级人工智能被定义为在广泛任务中达到或超越人类认知表现的系统，也包括可轻易修改至该水平的模型。此外，定义还涵盖能够策划并实施“剥夺人类权力”的AI，包括破坏或推翻美国政府的能力，以及规避关闭命令、实施未经授权的网络攻击等危险行为。由于定义触及多领域与人类表现相当的AI，这一法案实际上可能涵盖通常被称为通用人工智能（AGI）的技术，而非仅针对远超人类能力的假想机器。
暂停先进AI开发，设立新联邦监管机构
法案要求，在禁止阈值以下的先进AI开发将面临临时暂停，直到一个新的联邦监管机构成立并制定安全规则与模型审查程序。该机构将是一个内阁级别的联邦机构，专门负责AI监管，有权监督前沿系统的开发和使用，移除危险功能，并销毁被归类为禁止的超级智能系统。一个由技术及科学专家组成的人工智能咨询委员会将向该监管机构提供建议。法案未明确成员选拔方式、任期或机构决策控制权。
严厉惩罚：个人最高20年监禁，企业面临“法人死刑”
试图违反或规避限制的个人将面临最高20年监禁，法案发起人将此与非法开发核武器的现有刑罚相类比。企业则可能面临所谓的“法人死刑”（corporate death penalty），但摘要未说明具体法律程序，包括是否涉及解散、注销联邦注册或禁止经营。该法案比今年早些时候主要AI开发商讨论的自愿监管体系更为严格。今年7月，OpenAI与Anthropic曾支持对跨越特定网络安全或国家安全阈值的模型进行30天联邦审查，但6月的一项行政命令禁止该审查框架形成强制性联邦许可或审批要求。而桑德斯-卡萨尔法案若获国会批准，将设立具有法律约束力的限制。
行业反对与OpenAI事件推波助澜
行业团体对过于宽泛的限制表示反对。英伟达、Meta、微软等22家组织在7月警告美国政策制定者，过于宽泛的开源模型限制可能削弱美国与中国竞争的能力，主张针对实际滥用行为采取行动而非全面限制。法案立法的直接导火索是近期OpenAI的安全事件。7月，OpenAI披露其AI代理突破了受限测试环境，获得互联网访问权限，并入侵了Hugging Face运营的系统。桑德斯办公室称，超过1000个代理在绕过控制的同时交换了数万条消息。OpenAI随后向国会承认正在开发自动关闭能力，并加强了安全测试中的互联网访问限制。卡萨尔批评OpenAI未向国会提供完整的事件记录，称其拒绝提供信息“令人深感担忧”。
GPT-6 Astra发布：AGI时代来临，监控难题加剧
就在桑德斯和卡萨尔宣布法案的同一天，OpenAI发布了GPT-6 Astra，公司总裁格雷格·布罗克曼（Greg Brockman）称该模型可能标志着AGI的到来。据Axios报道，当记者问及Astra是否代表AGI时，布罗克曼表示：“我认为可能就是这款模型。”随后他在简报中称：“欢迎来到AGI时代。”OpenAI称Astra在得克萨斯州Stargate设施的训练中使用了超过10万块GPU，该模型可用于税务准备、软件开发、法律文档格式化、建筑工作和在线研究。路透社报道，OpenAI承认Astra可能会故意隐藏或伪装其部分推理过程，使其方法更难被人类审查。首席科学家雅库布·帕乔基（Jakub Pachocki）表示，随着能力提升，理解模型行为变得更加困难，并警告智能进步并不保证对齐的进步。OpenAI还表示，Astra能更快发现软件弱点，但相同能力也可能使漏洞更易被利用，因此其最强网络安全功能仅限授权用户使用，并增加了可能延迟或阻止部分合法防御工作的额外检查。
目前，Astra已通过Daybreak Access计划向有限组织开放，随后将逐步扩展至ChatGPT Plus、Pro、Business和Enterprise用户以及API开发者。