联合国表示人工智能保障措施不能等待确定性

联合国科学小组在今年早些时候对 OpenAI 黑客入侵事件进行的首次重大评估中警告说，各国政府需要在充分了解人工智能代理的风险之前对其进行控制。

联合国表示人工智能保障措施不能等待确定性 该报告发布之际，北京和华盛顿正准备讨论人工智能，世界领导人本周将齐聚纽约。

本周，随着各国领导人齐聚纽约参加联合国大会，美国和中国就人工智能问题举行会谈，该报告巩固了人工智能在全球外交议程中的地位。

上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府合作应对人工智能带来的威胁，并警告说“世界不能承受人工智能安全方面的逐底竞争”。

这是人工智能国际独立科学小组的第一份主题简报，该小组于去年成立，是联合国“第一个全球人工智能科学机构”。

它需要更多的关注和资源来管理先进人工智能带来的新风险，同时加强安全和问责方面的国际协调，即使各个国家采取不同的法律方法。

至关重要的是，该小组表示，世界不需要等待科学家确切地确定此类事件如何或为何发生，才能开始实施更强有力的保障措施。

专家组认为，失控风险正是预防原则旨在解决的问题：“潜在危害可能是灾难性的或不可逆转的，即使其可能性在科学上仍然不确定。

” 该原则首次载入 1992 年《联合国里约环境与发展宣言》，指出科学上的不确定性不能成为推迟针对潜在严重或不可逆转损害采取措施的借口。

此后，它对环境和公共卫生政策产生了影响，特别是在欧盟。

自从 Hugging Face 黑客事件首次被报道以来，OpenAI、Anthropic、Google 和 Meta 等公司都记录了此类事件，包括对现实世界目标的黑客攻击以及大量代理接管在线留言板。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接