OpenAI与Anthropic闭门向美国国土安全部通报AI网络安全威胁

OpenAI和Anthropic两家人工智能领域最具影响力的公司，已于近日与美国国土安全部委员会（Homeland Security Committee）成员进行闭门简报，重点讨论AI技术快速发展所带来的网络安全威胁。这一消息由Axios率先披露，引发业界对AI安全议题的广泛关注。

此次闭门会议举行的背景，是AI技术在过去两年间的爆发式增长。随着大语言模型、AI Agent等技术的快速成熟，网络安全专家和立法者越来越意识到，AI系统既可能成为防御工具，也可能成为攻击手段。

通报的核心内容：AI网络威胁的三个层面

据知情人士透露，此次简报主要涉及三大类AI网络安全威胁：

第一类是AI驱动的社会工程攻击。攻击者正在利用大语言模型批量生成高度个性化的钓鱼邮件和虚假信息，这些内容语法自然、逻辑连贯，普通人越来越难以分辨真伪。与传统的钓鱼邮件相比，AI生成的攻击内容可以根据每个目标的具体情况量身定制，成功率显著提升。

第二类是AI辅助的漏洞发现与利用。安全研究人员发现，AI系统可以被用来加速漏洞挖掘过程，甚至自动生成漏洞利用代码。这意味着网络攻击的门槛可能进一步降低，更多不具备深厚技术背景的恶意行为者也能发动复杂攻击。

第三类威胁来自AI模型本身可能遭受的对抗性攻击。研究人员已经证明，通过精心设计的输入，攻击者可以让AI系统产生错误判断或执行非预期操作。这种”对抗性样本”对依赖AI的关键基础设施构成了特殊风险。

值得关注的是，这是主要AI公司在过去半年内第三次主动寻求与美国国会相关委员会进行闭门沟通。前两次分别是与参议院AI规则制定委员会和众议院司法委员会的会议。这反映出AI行业头部公司正在调整策略，从被动应对监管转向主动参与规则制定。

OpenAI和Anthropic选择通过闭门简报而非公开听证会的形式进行沟通，被认为是希望就技术细节进行更深入的讨论，同时避免引发公众不必要的恐慌。知情人士表示，两家公司都认为在AI安全问题上，”建设性对话比对抗性辩论更有价值”。

此次闭门简报反映出美国立法机构正在以前所未有的速度了解AI行业的运作方式。国土安全委员会主席在简报后表示，委员会将在未来两个月内出台一份关于AI基础设施安全的国家级建议草案。

与此同时，欧盟也在推进类似的监管框架。欧盟AI法案的补充条款已经将”AI系统网络安全”作为单独章节纳入讨论范围。全球主要经济体在AI监管领域的竞争与合作，正在塑造下一阶段全球AI治理的基本格局。

对于AI行业来说，主动与监管机构沟通意味着有机会在规则制定早期就纳入行业视角。但同时，监管压力也可能对AI公司的技术开放程度和数据使用策略产生深远影响。如何在安全与创新之间找到平衡，将是接下来几年整个行业面临的核心议题。