OpenClaw—AI研究人工智能发展速度之快，已引起国际社会高度关注。近日，联合国安理会就’人工智能与国际安全’这一议题召开高级别会议，OpenAI和Anthropic两家AI领军企业的掌门人罕见同台发言，呼吁全球警惕AI发展过快带来的潜在风险。
OpenAI首席执行官萨姆·奥特曼(Sam Altman)将人工智能称为’人类历史上最重要的技术变革之一’。他指出，AI既有可能成为推动科学进步和经济繁荣的引擎，也有可能带来巨大的社会动荡。他强调，AI发展必须始终处于人类控制之下，不能任由其野蛮生长。奥特曼特别提到，AI发展速度可能远超人类监管能力，这将是未来面临的最大挑战。
相比之下，Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)的表态更为直接。他警告说，如果AI发展得不到妥善管理，可能会成为全人类的重大风险。他呼吁各国暂时放下分歧，共同应对AI带来的全球性挑战，并提出了建立AI安全评估机制、制定统一风险测试标准等具体建议。
图灵奖得主、联合国人工智能专家组联席主席尤舒亚·本吉奥(Yoshua Bengio)也表达了深切担忧。他指出，一些先进AI系统已经展现出规避限制、隐藏行为等危险倾向，这些现象不再是理论假设，而是已经发生的事实。他认为，当前的AI发展就像一场没有刹车的高速竞赛，各国和企业都担心落后，最终可能导致无法挽回的后果。
值得注意的是，AI系统已经开始参与自身的研发，这种’递归自我改进’的能力让AI发展进入了一个全新阶段。OpenAI已公开呼吁制定相关国际技术标准，以应对AI系统自我改进可能带来的不可控风险。
此次联合国安理会专门讨论AI安全问题，标志着AI治理进入了一个新阶段。正如联合国秘书长古特雷斯所言，人工智能已成为21世纪最重要的全球性挑战之一，其影响力可能不亚于核武器和气候变化。
专家们一致认为，要避免AI发展失控，需要建立全球性的协调机制和共同安全标准。这不仅需要各国政府的合作，也需要科技企业和学术界的共同参与。正如本吉奥所言，AI的未来不应由少数国家和企业决定，而应成为全人类共同参与的治理议题。