Anthropic 向国会推介 AI 监管草案 将允许出现严重风险时封锁模型
据三名了解相关行动、获准匿名讨论内部磋商的人士透露，人工智能巨头 Anthropic 的代表已经悄悄向美国国会山的议员推介一份前沿 AI 安全监管法案草案。 在国会正斟酌如何应对快速发展的 AI 行业之际，这份文件代表这家前沿 AI 实验室的一项重要行动——试图塑造管理自身技术的法规。 Anthropic 发言人表示：“本法案体现了我们《高级人工智能框架》中提出的各项方案，自 6 月起，我们一直在向联邦及各州议员倡导这套框架。我们认为这些是合理的政策，国会应当就此采取行动。” 根据该法案，只有在满足以下条件时，政府才有权阻止模型的发布或投入使用：模型存在可预见的紧迫风险，可能造成超过 10 亿美元损失，或是导致 50 人以上死亡或重伤。该风险必须来源于生物武器研发与释放、模型绕开开发者管控，或是网络攻击。条款文字借鉴了加州 AI 相关法律，包括去年签署生效的 SB 53 法案。