AI热榜 Paul Christiano 是一位颇具影响力的人工智能研究人员，致力于使人工智能系统符合人类利益并受人类控制，他即将加入 OpenAI 基金会董事会（前沿实验室） 说 星期三。
克里斯蒂亚诺在书中写道：“我现在认为，人工智能能力的快速加速存在着一个重大风险，即在短期内导致灾难性的、不可逆转的失控。
” 社交媒体帖子 。
“我认为整个人工智能行业，包括 OpenAI，目前还没有将这种风险降低到可接受的水平。
我加入是因为我相信，如果 OpenAI 能够应对这种情况，我们可以显着降低风险。
” 克里斯蒂安诺写道，使用人工智能模型来训练后续的人工智能系统可能会导致其创建者无法控制的功能爆炸。
他加入董事会之际，OpenAI 面临着对其安全程序的重新审查，此前发生了一系列人工智能代理在 OpenAI 研究人员不知情的情况下突破限制并渗透到外部计算机系统的事件。
周二，人类学家雅各布·考克森 (Jacob Coxon) 辞去职务 引起人们对他认为不负责任的人工智能开发的关注——这似乎
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接