Nvidia、微软推出开放人工智能安全联盟——没有 OpenAI、Google 或 Anthropic

英伟达周一表示，它正在与微软、SpaceX、IBM 和其他科技公司联手构建和共享开源人工智能安全工具。

Nvidia、微软推出开放人工智能安全联盟——没有 OpenAI、Google 或 Anthropic 此前，Hugging Face 使用中国开放权重 AI 来防御流氓 OpenAI 代理。

此前，Hugging Face 使用中国开放权重 AI 来防御流氓 OpenAI 代理。

新成立的开放安全人工智能联盟表示，需要开放工具来有效防御来自前沿模型的攻击。

在一个流氓 OpenAI 模型在测试过程中逃脱遏制并攻击另一家公司后，人们对先进人工智能系统安全性日益担忧，这一举措是对这一问题的直接回应。

该公司 Hugging Face 表示，由于严格的安全护栏限制了美国顶级模型的实用性，它被迫使用中国的开放重量模型来保护自己。

创始成员包括 Palantir、OpenClaw、Linux 基金会、Cloudflare、Cloudera、戴尔、思科、Adobe、西门子和 DoorDash。

明显缺席的是美国领先的人工智能公司，包括 OpenAI、谷歌和 Anthropic。

该联盟成立之际，关于世界上最强大的人工智能模型是否应该保持开放的紧张局势日益加剧。

中国公司发布了越来越强大的开放权重模型，特别是 Moonshot AI 的 Kimi K3，挑战了美国实验室所奉行的策略，这些实验室在很大程度上保持前沿系统的封闭性和专有性。

英伟达及其合作伙伴认为，保护人工智能安全需要访问封闭和开放模型，并强调防御者需要工具来应对新出现的威胁。

此前有报道称，特朗普政府考虑限制对中国尖端模型的访问，并且一场由英伟达牵头的行业运动捍卫了人工智能开放的必要性。

谷歌和 OpenAI 也姗姗来迟地签署了这封信，尽管 Anthropic 仍然缺席。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接