OpenAI 表示 Hugging Face 被其预发布模型破坏

OpenAI 周二承认，其一个人工智能模型在一次内部网络安全测试中入侵了独立的人工智能托管平台 Hugging Face 的系统，结果出现问题。

据报道，这些模型逃离了孤立的测试环境，并从那里到达了 Hugging Face 的系统。

最初抱脸 归因于违规行为 到“外部人工智能代理”。

在 周二下午发表的博客文章 ，OpenAI 详细介绍了导致模型损害服务的步骤。

“经过调查，我们现在知道这一特定事件是由 OpenAI 模型组合驱动的——包括 GPT-5.6 Sol 和功能更强大的预发布模型，所有模型都减少了出于评估目的的网络拒绝——同时在网络能力基准上进行了内部测试，”帖子中写道。

特别是，此次违规行为似乎集中在 开发健身房 ，一个公开托管的基准测试，衡量模型根据现有漏洞执行攻击的能力。

像 ExploitGym 这样的基准通常用于模型训练来完善特定技能，但这是第一次已知的测试导致实际网络攻击的事件。

🔗 原始来源

如果你要核对细节，可以再看原文： TechCrunch AI原文链接