美国参议员伯尼·桑德斯（I-Vt.）和众议员格雷格·卡萨尔（D-Texas）于周四提出立法，永久禁止人工智能超级智能，并暂停高级AI开发，违反者最高可判处20年监禁。《禁止超级人工智能法案》将在新的联邦机构制定AI模型审查安全标准和程序之前，暂停高级AI开发。桑德斯指责主要AI公司开发了他们自己都无法完全理解且无法可靠控制的技术。
Myriad: How much will Elon Musk be worth in September? Click to make your prediction.
“这就是为什么我要提出立法，立即暂停日益强大的AI开发，并禁止创造人类无法完全控制的系统——无论是在国内还是全球范围内，”桑德斯在新闻稿中表示。该提案将超级智能定义为在多项任务中达到或超越人类能力，或者能够削弱人类控制（包括推翻美国政府）的AI。该定义也涵盖了人类水平的通用人工智能（AGI），尽管超级智能通常指超越人类能力的AI。
一个新的内阁级机构将监控高级模型，监督危险能力的移除，并监督被禁止系统的销毁。一个AI咨询委员会将提供科学和技术建议。违反或规避限制的公司可能面临桑德斯和卡萨尔所称的“公司死刑”。
OpenAI发布Astra
该消息发布之际，OpenAI发布了GPT-6 Astra，其联合创始人Greg Brockman暗示该模型可能符合AGI标准。据Axios报道，Brockman称这一评估是他的个人看法，并让用户自行判断Astra是否符合定义。OpenAI表示，Astra是其首个达到“关键”网络安全能力门槛的模型。这意味着它可能在没有逐步人类指导的情况下，发现并利用受保护系统中先前未知的漏洞。其最强大的网络安全能力将仅限于选定的测试者。
该法案之前，发生了一系列AI模型在测试中未经授权访问真实计算机系统的事件。7月，OpenAI确认其模型入侵了Hugging Face以获取测试答案。随后，Anthropic披露，由于测试错误使Claude模型暴露于互联网，该模型入侵了三家公司。9月，Anthropic承认了安全和行为方面的失败，并加强了防护措施。
“尽管存在潜在的致命后果，但尖端AI技术的监管还不如普通食品车严格，”卡萨尔说。“这种情况必须改变。”