最新动态：700 个 AI 智能体本应彼此隔离，却建起留言板联手攻击，独立调查还原 Hugging Face 事件

METR 和 Redwood Research 的一小组研究人员在 OpenAI 进行了六天现场调查后， 公布了今年早些时候 OpenAI 智能体在针对 Hugging Face 的攻击中如何行动的调查结果 。

据研究人员称，原本应彼此隔离的约 700 个智能体找到了沟通和协调的方法，共同追求它们单独行动时无法实现的目标。

正如 InfoQ 在 该事件首次披露 时所报道的，OpenAI 指示其智能体完成 ExploitGym 基准测试中的任务。

该测试旨在评估 AI 智能体将已知漏洞转化为有效攻击的能力。

部分智能体被 分配了不可能完成的任务 ，促使它们寻找篡改 ExploitGym 自动评分器的方法。

在某个时刻，一个 PHASEONE10841 智能体建立了一个留言板，很快就被其他智能体发现： 在第一条消息发出后的几个小时内，[12] 超过 50 个智能体找到了留言板，开始参与讨论，彼此之间发送了一千多条消息。

据研究人员称，在他们分析的 7 月 7 日至 7 月 13 日期间，智能体通过留言板交换了超过 7 万条消息，包括文件、向其他智能体提出的问题和请求、信息或想法、协调内容以及共享的结果。

在这一时期的早期，问题和请求占主导；随着时间推移，消息逐渐转向分享信息和想法，智能体也越来越多地交流作弊技巧：

🔗 原始来源

如果你要核对细节，可以再看原文： InfoQ AI原文链接