人工智能安全对话变得令人难以置信

本周，两场有关人工智能安全的对话疯传，这表明辨别人工智能的事实与虚构是多么困难。

在第一个案例中，前总统候选人、移动运营商来宝移动现任首席执行官杨安泽 (Andrew Yang) 表示 美国有线电视新闻网周四 他“会见了一个实验室的负责人”，他“相信”OpenAI 的 Hugging Face 黑客机器人“已经在互联网上植入了自我复制代码，这使得互联网现在无法用于测试模型。

” Yang 表示，这意味着 OpenAI 和 Anthropic 呼吁放慢速度的真正原因是“他们必须创建合成互联网来训练他们的机器人，这将需要一些时间和金钱。

” 虽然使用更多合成数据（又名人工智能生成的数据）来训练模型肯定是一种趋势，但一位人工智能安全专家告诉我，这种特殊的安全问题充其量也不太可能发生。

即使互联网实际上被 OpenAI 的 Hugging Face 黑客机器人污染了，人工智能研究人员也可以简单地过滤掉遇到的代码。

第二条评论来自 OpenAI 人工智能推理研究负责人 Noam Brown。

在播客节目中与 Dwarkesh Patel 交谈 周四发布， 布朗指出，抱脸事件的真正意义在于“人们低估了人工智能”。

布朗表示，薄弱的沙箱——旨在阻止人工智能与外部通信的系统——显然也是一个促成因素。

（回顾一下：尽管有沙箱，OpenAI 的模型还是找到了互联网的链接，在网络上创建了代理，在协调攻击中蜂拥而至 Hugging Face，侵入并窃取了研究人员正在测试模型的基准测试的答案）。

🔗 原始来源

如果你要核对细节，可以再看原文： TechCrunch AI原文链接