Meta制作了自己的AI检测系统。它应该只是使用谷歌的

今年 3 月，Meta 监督委员会呼吁该公司“履行其公开承诺并使用自己的工具”，以帮助遏制欺骗性生成人工智能内容在平台上的传播。

Meta 在 7 月份做出了回应，推出了 Content Seal——一种隐形水印技术，可以标记该公司新人工智能模型生成的图像。

但这基本上是该公司发布的 Muse 图像和视频生成工具的一个脚注。

Meta制作了自己的AI检测系统。

它应该只是使用谷歌的 Content Seal 还处于早期阶段，但该标准并没有一个良好的开端。

Meta制作了自己的AI检测系统。

它应该只是使用谷歌的 Content Seal 还处于早期阶段，但该标准并没有一个良好的开端。

作为一个花费大量时间仔细研究人工智能标签系统的人，Content Seal 并没有让我充满信心。

已经有更成熟的解决方案，例如 C2PA Content Credentials 和 Google 的 SynthID，Meta 可以使用这些解决方案，而不是稍后推出自己的系统。

在深入研究了 Meta 推出自己系统的原因后，我不相信 Meta 已经考虑清楚了这一点。

根据 Meta 的描述，Content Seal 的工作原理与 SynthID 类似。

人眼看不见的水印提供了嵌入到人工智能生成的图像中的“隐藏来源信号”，然后可以通过检测工具对其进行扫描和标记，帮助在线用户区分深度赝品和真实内容。

与 SynthID 一样，Meta 还表示，内容印章水印保持不变，并且如果图像被“裁剪、压缩、调整大小或截屏”，仍然可以被检测到。

那么，如果 Content Seal 在功能上可以做同样的事情……为什么不直接采用 SynthID 呢？

Meta 已经作为内容来源和真实性联盟 (C2PA) 的指导委员会成员运作，该联盟与 Google 一起推广单独的内容凭证标准，因此它表示愿意与其他人合作解决日益严重的人工智能检测问题。

SynthID 也已被 OpenAI 采用，因此显然 Google 也愿意以提高透明度的名义向竞争对手的 AI 提供商开放其技术。

尽管与谷歌的系统有相似之处，但 Content Seal 在目前的状态下仍存在一些局限性。

目前，用户只能通过 Meta 正在测试的专用网络工具来检测内容印章水印，这意味着 Meta 尚未像 Google 和 Gemini 那样将这些检测功能内置到其 Meta AI 聊天机器人中。

不过，听起来这可能正在酝酿之中。

Meta 发言人 Faith Eischen 告诉 The Verge，该公司正在“探索如何让检测更接近人们遇到人工智能生成内容的地方。

”鉴于这是最需要人工智能检测的地方，并且已经存在了一段时间，为什么它在发布时不可用？

水印本身也仅应用于 Meta AI 应用程序和 Meta.ai 网站中 Muse 生成的图像，这意味着在线用户无法使用它来检测 Meta 旧版 AI 模型创建的内容。

对生成视频的支持也不可用，尽管 Meta 表示“很快”就会实现。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接