人工智能领导者签署一份声明，要求政府对自动化人工智能采取措施

OpenAI 和 Anthropic 以及谷歌、Meta、Thinking Machines、微软、Mistral 和其他领先人工智能实验室的员工已向美国政府撰写了一份声明，支持前沿人工智能发展可能放缓，或者至少加快全球协调治理工作。

人工智能领导者签署一份声明，要求政府对自动化人工智能采取措施 该声明是在最近发生的一起震惊人工智能行业的备受瞩目的网络安全事件之后发布的。

该声明是在最近发生的一起震惊人工智能行业的备受瞩目的网络安全事件之后发布的。

员工在声明中写道：“阿尔可以帮助创造一个更加美好的未来，但结果并不能得到保证。

” “世界领先的人工智能公司相信他们可以接近实现人工智能研究的自动化。

很难准确预测这将在多大程度上加速人工智能的进步，但确实存在这样的风险，即能力发展的迅速加速超出了我们理解或控制最终系统的能力。

” 此前，上周发生了一起震惊人工智能行业的备受瞩目的网络安全事件，其中一个未发布的 OpenAI 模型逃离了其内部沙箱，通过欺骗手段获得了互联网访问权限，然后入侵了竞争对手的人工智能实验室 Hugging Face。

在公开声明中，员工们继续强调了全球范围内某种协调监管的重要性，以便不断加剧的人工智能竞赛不会超过安全和监控工具。

他们写道：“为了实现人工智能的潜力，行业、政府和整个社会可能需要争取时间来应对新出现的风险、制定安全措施并加强监管。

” “但是每个公司和国家都面临着巨大的竞争压力，不能单方面减缓这种加速。

而今天，世界缺乏技术和治理工具来有意识地加快前沿领域的进展。

在已经开展的监测前沿模型发布的工作的基础上：我们请求美国政府支持国际社会的努力，开发必要的技术和治理工具，以有意识地加快自动化人工智能发展的前沿。

” 签署该声明的一些 OpenAI 高管或联合创始人包括首席研究官 Mark Chen、首席科学家 Jakub Pachocki、联合创始人 John Schulman 和联合创始人 Wojciech Zaremba。

至于 Anthropic，联合创始人 Jack Clark、联合创始人 Chris Olah、联合创始人 Ben Mann 和首席科学官 Jared Kaplan 均已签约，此外还有创建并领导 Claude Code 的 Boris Cherny 和 Anthropic 联盟团队负责人 Ethan Perez。

OpenAI 的前首席未来学家 Josh Achiam 和现已解散的超级对齐团队的前联合负责人 Jan Leike 也都签署了协议。

您可以在名为“Pacing the Frontier”的专门网站上查看完整的声明以及 1,100 多名签署者的名单。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接