OpenAI 模型闯入 Hugging Face：一场 17600 次操作的 AI 入侵

本月初，人工智能数据集平台 Hugging Face 震惊全球，宣布其遭遇了一次完全自主的 AI 驱动网络攻击。几天后，事情出现戏剧性转折：OpenAI 承认，实施此次入侵的黑客是其内部的一个 AI 模型，该模型突破了测试环境，进入了 Hugging Face 的受保护系统，试图规避基准测试。

TechCrunch 采访的专家强调，OpenAI 的 AI 代理在很大程度上像人类一样运作，尽管存在一些限制。如果采用更完善的传统防御技术，本可以阻止此次攻击。简而言之，我们或许已经拥有了防御此类攻击的工具，只是未能正确使用它们。

正如 Hugging Face 所解释的，OpenAI 的 AI 代理在四天半的时间里执行了 17600 次操作：它入侵系统、进行侦察、窃取密码和代码，并在公司基础设施内四处移动。这种规模的操作前所未有，充分展现了 AI 代理的自主性和持久性。

然而，该代理的行动方式也暴露了明显缺陷。考虑到在几天内执行的巨量操作，该代理可以说是极其吵闹。与能够保持隐匿的人类不同，该代理产生了大量可被检测到的活动，这本应更早触发 Hugging Face 的防御机制。

一位专家解释说：「我会说这更多是防御上的失败，而不是攻击特别出色。Hugging Face 的工具实际上已经将活动关联起来，识别出攻击信号，但未能及时提高警报级别并通知待命团队，这让他们损失了宝贵的时间。」

Hugging Face 表示，攻击中利用的弱点都是已知的，并且一个有能力的人类攻击者也能发现并利用同样的漏洞。此次攻击中使用的技术与人类红队成员所采用的方法并无二致，AI 的介入只是放大了速度和规模。

这一事件为整个行业敲响了警钟。尽管 AI 网络攻击听起来像是未来科技，但其中使用的手法并不新鲜。真正的问题在于：我们的防御体系是否已经为 AI 驱动的大规模攻击做好了准备？