据三名了解相关行动、获准匿名讨论内部磋商的人士透露，人工智能企业Anthropic的代表已悄悄向美国国会山的议员推介一份前沿AI安全监管法案草案。在国会斟酌如何应对快速发展的AI行业之际，这份文件代表该公司试图塑造管理自身技术的法规。
根据该法案，只有在满足以下条件时，政府才有权阻止模型的发布或投入使用：模型存在可预见的紧迫风险，可能造成超过10亿美元损失，或是导致50人以上死亡或重伤。该风险必须来源于生物武器研发与释放、模型绕开开发者管控，或是网络攻击。条款文字借鉴了加州AI相关法律，包括去年签署生效的SB 53法案。
Anthropic发言人表示，该法案体现了公司《高级人工智能框架》中提出的各项方案，自6月起，公司一直在向联邦及各州议员倡导这套框架，并认为这些是合理的政策，国会应当就此采取行动。
法案对评估与执法程序作出限定：独立评估机构需在商务部完成注册，负责定期评估AI实验室及其前沿模型，报酬可由实验室支付但不得与评估结果挂钩；若判定存在“列明的紧迫风险”，须在评估完成后72小时内向商务部上报。商务部认定风险后，可向法官申请叫停模型发布，但条文明确禁止美国其他任何“部门、机构或官员”暂停模型的研发、部署或内部使用，仅哥伦比亚特区联邦地区法院法官有权下达模型停用令。
法案还将优先于部分州AI法律，涉及风险公开披露、第三方评估、重大安全事件上报等领域，并要求前沿AI实验室建立安全框架、为新前沿模型发布透明度报告、设立举报人保护机制。监管优先权是国会山的政治火药桶，民主党人反对部分提案，担心会废掉加州、伊利诺伊、纽约等州已出台的监管法规。
今年夏天，Anthropic遭遇大范围出口管制，旗下两款最先进模型被迫下线，相关决定由政府官员与企业高管在一连串紧急电话沟通后敲定。国会方面，马萨诸塞州民主党众议员洛里·特拉汉与加州共和党众议员杰伊·奥伯诺尔特已牵头推出《前沿AI法案》，参议院多数党领袖约翰·休恩等人则在协商另一份AI安全法案。
💬 评论