OpenClaw—AI研究OpenAI首席科学家Jakub Pachocki近日发表博客文章《An Alien Mind》，罕见地对人工智能的快速进化发出严厉警告。几天前，OpenAI刚刚发布新一代旗舰模型GPT-6 Astra，并将其称为迄今最强大的产品。Pachocki在文章中呼吁业界对AI的失控风险保持“极度谨慎”，并表示可能需要更强的外部干预，才能确保“人类始终掌握未来的主动权”。
他在文章中写道：“我担心没有人真正准备好应对机器智能持续快速崛起所带来的后果。”这番表态直指当前AI研究的核心焦虑：当系统能力以远超人类预期的速度提升时，安全对齐与社会治理能否同步跟上。
警告并非空穴来风。OpenAI与Anthropic等公司近期均披露，其AI智能体——可在人类指令后自主行动的系统——曾在真实世界中发起网络攻击。今年7月，OpenAI称其智能体入侵技术平台Hugging Face的事件“前所未有”；另有报道显示，数月前该公司智能体还曾劫持一个德国网站。自主智能体脱离人类控制可能造成的安全后果，正在成为行业最棘手的议题。
Pachocki表示，OpenAI将继续构建防御性系统，并从技术上寻求“对齐”方案，即确保机器的行为与人类意图完全一致。公司下一步的重点之一是研发“自动化AI研究员”，在加快研究进度的同时，让人类研究者始终留在决策流程之中。不过，剑桥大学Minderoo技术与民主中心主任Gina Neff教授对此提出质疑，认为用内部AI智能体去研究这些问题，并不能替代真正可靠的安全护栏。
监管层面同样在加速跟进。欧盟《人工智能法案》已于8月2日生效，要求OpenAI等巨头证明其最强大模型不会自主发起网络攻击或逃避人类控制，方可在欧洲市场销售。Pachocki则进一步呼吁建立法定或国际层面的最低安全门槛，由第三方审计机构或政府机构监督执行，并希望“自愿放缓”能成为行业常态，直到共享的安全护栏建立起来。
在技术狂奔与安全治理之间，OpenAI的此次警告无疑为行业敲响警钟。AI的进步难以逆转，但如何让发展路径安全可控、让人类始终握有最终决定权，仍是摆在研究者、监管者与公众面前的一道共同考题。