AI公司Anthropic主动献策：拟推AI安全法案规范前沿技术

人工智能初创公司Anthropic近日成为科技界焦点，因为他们主动向美国国会议员提交了一份自行拟定的AI安全法案草案。这份草案主要针对前沿人工智能技术的监管问题，提出了多项具体建议。

根据草案内容，Anthropic建议当AI模型可能带来重大风险时，政府有权介入并阻止其发布或使用。所谓的重大风险包括可能造成超过10亿美元财产损失，或者导致50人以上死亡或重伤的情况。这些风险必须与AI模型制造生物武器、失去开发者控制或发动网络攻击等行为直接相关。

为了确保监管的及时性，草案规定如果评估机构认定某AI模型存在上述风险，必须在72小时内向商务部报告。商务部在确认风险后，可向法院申请禁令。不过，草案也明确限制了其他政府部门的权力，禁止他们擅自暂停AI模型的研发或内部使用。

除了政府监管，Anthropic还建议AI开发商必须对模型进行严格测试，并将测试结果向公众公开。同时，他们必须允许独立评估机构定期审查，以确保AI技术的安全性。这体现了Anthropic对AI技术透明度和可问责性的重视。

Anthropic发言人表示，这份草案与公司6月份发布的’先进AI框架’中的建议一致。他们认为，这些措施能够赋予联邦政府必要的权力，以防止最强大的AI模型被危险地部署。发言人强调，这些建议是国会应当认真考虑并采取行动的合理政策。

目前，Anthropic尚未透露这份草案的具体推介范围和接受程度。美国商务部也未对媒体置评请求做出回应。尽管如此，这份提案的出现标志着AI行业内部正在积极寻求与政府合作，以应对AI技术快速发展带来的潜在风险。

分析人士指出，随着AI技术的不断进步，类似Anthropic这样的主动监管建议可能会成为未来AI治理的重要参考。这不仅有助于规范行业发展，也为AI技术的安全应用提供了保障。