“拿我们的生命赌博”：人类研究人员辞职，警告不要自我改进人工智能

一位人类研究人员因担心无节制地发展自我改进的人工智能模型最终会杀死我们所有人而辞职。

研究人员雅各布·考克森 (Jacob Coxon) 在一份报告中表示 社交媒体帖子 周二晚上，他在过去三年里一直致力于 OpenAI 和 Anthropic 的预训练研究，指责这些公司未能采取负责任的行动。

他说，竞相开发这项技术的人们“真诚地相信，到本世纪末，它可能会杀死我们所有人。

” 考克森在 X 上的一条帖子中写道：“他们正在与自我完善的超级智能赛跑，并用我们的生命进行赌博。

” Coxon 加入了业界越来越多的呼声，呼吁人工智能技术学会自我改进之前放慢速度——许多人认为这是一个里程碑，将结束人类对人工智能的控制。

公众辞职之际，政策制定者和业内人士要求放慢人工智能发展的压力越来越大。

几起事件 涉及人工智能代理突破沙箱并访问开放互联网。

迄今为止最严重的是

🔗 原始来源

如果你要核对细节，可以再看原文： TechCrunch AI原文链接