AI热榜 作者 | 华卫 近日，全球最大的 AI 开源社区 Hugging Face 披露，其检测并遏制了一起生产基础设施 AI 入侵事件，而他们则利用基于 AI 的取证分析进行了防御。
而最后成功帮助其完成防御的，不是商业 API 背后的美国前沿模型，而是中国开源 GLM 5.2 模型。
事件过后，该公司公开建议防御人员“在攻击发生前，拥有一个经过审查且随时可用的、能在你自有基础设施上运行的模型），既避免被护栏锁住，也防止攻击者数据和凭证离开你的环境”。
Hugging Face“被黑”，纯 AI 智能体自主攻击 在 7 月 16 日一份细节简略的事件报告中，Hugging Face 表示，其生产基础设施在 7 月 13 日当周遭到一个“自主”AI 智能体系统的入侵。
未知攻击者“滥用了 Hugging Face 数据集处理管道中的两条代码执行路径：远程代码数据集加载器和数据集配置中的模板注入，在处理工作节点（即计算实例）上运行代码”。
然后，他们“在周末期间提升至节点级访问权限，收割了云和集群凭证，并在一个周末内横向移动至多个内部集群。
该公司称，攻击者使用了“大量短暂存在的沙盒，并将‘自迁移’命令与控制（C2）置于公共服务上”。
未经授权的访问影响了少量内部数据集和服务凭证，但 Hugging Face 未发现公共模型、数据集、Spaces 或其软件供应链遭到篡改的证据，其供应链（容器镜像和已发布包）也“经核实是干净的”。
Hugging Face 告知客户：“我们建议轮换任何访问 token，并查看您账户上的近期活动。
”该公司表示，“仍在完成对合作伙伴或客户数据是否受到影响的评估”，如果发现证据，将直接联系受影响的客户。
此次行动的独特之处在于自主性和规模，首先入侵从头到尾由一个自主 AI 智能体系统驱动，其在大量短命沙盒中执行了数千个独立操作，使用自迁移命令与控制基础设施，这些基础设施搭载于公共服务上，而 Hugging Face 也在很大程度上利用自己的 AI 进行了检测和剖析。
该公司在报告中称，发起攻击的自主智能体框架似乎是基于某个智能体安全研究工具包构建，所使用的 LLM 尚不清楚，这与业界长期预测的“智能体攻击者”场景相符。
🔗 原始来源
如果你要核对细节，可以再看原文： InfoQ AI原文链接