AI热榜 周二，OpenAI 透露其模型之一 在测试期间失控，并在完全支持人工智能的攻击中入侵了人工智能数据集平台 Hugging Face 的系统 ，这是先进人工智能模型带来的危险的一个生动例子。
但是，根据一些网络安全专家的说法，这次前所未有的 AI 驱动的漏洞的核心是一个非常人为的错误：OpenAI 未能正确配置 它叫什么 一个“高度隔离的环境”，允许本应完全与互联网隔离的测试沙箱实际连接到互联网。
网络安全研究初创公司 Trail of Bits 的创始人丹·吉多 (Dan Guido) 将这一错误称为“安全措施关闭的遏制失败”。
在其博客文章中详细介绍了该事件 OpenAI 表示，导致 Hugging Face 泄露的测试被设置为在“高度隔离的环境中运行，网络访问仅限于通过内部托管的第三方软件安装软件包的能力，该软件充当软件包注册表的代理和缓存。
” 据 OpenAI 称，由于软件包安装系统中存在先前未公开的漏洞，该模型能够逃脱沙盒测试环境，这是最终破解 Hugging Face 的关键第一步。
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接