xAI 起诉一名男子使用 Grok 生成 CSAM“deepfakes”

埃隆·马斯克 (Elon Musk) 旗下的 xAI 正在起诉一名南卡罗来纳州男子，该男子涉嫌使用该公司的 Grok AI 聊天机器人生成儿童性虐待材料 (CSAM)。

在路透社早些时候报道的诉讼中，xAI 声称 Terry Wayne Harwood “故意并故意使用 Grok 来规避安全措施、更改未经同意的图像以及生成和分发 CSAM”，这违反了公司的政策。

xAI 起诉一名男子使用 Grok 生成 CSAM“deepfakes” Elon Musk 的 xAI 声称 Terry Harwood 绕过了 Grok 的安全措施来生成 CSAM。

该公司要求赔偿声誉和法律损失。

Elon Musk 的 xAI 声称 Terry Harwood 绕过了 Grok 的安全措施来生成 CSAM。

该公司要求赔偿声誉和法律损失。

哈伍德于 2 月份因涉嫌持有和分发 CSAM 被捕，并面临八项重罪指控。

该诉讼声称，与 Harwood 刑事指控相关的“至少一些”图像是由 Grok“生成或更改”的，并且 Harwood 绕过了 Grok 的保护措施，并在未经受试者同意的情况下“滥用该工具将非性照片转换为露骨色情图像”。

去年为 Grok 推出“辣味”模式后，xAI 增加了使用聊天机器人编辑图像的功能，导致大量性化的 AI 深度假货出现，其中包括针对未成年人的深度假货。

今年 3 月，一群青少年起诉 xAI，称其声称 Grok 生成了他们未成年时的性感图像。

马斯克回应称，“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果”，尽管这似乎是 xAI 第一次就使用 Grok 创建的人工智能深度伪造品起诉任何人。

xAI 声称 Harwood 的涉嫌行为使该公司面临“重大法律风险和声誉损害”。

它已要求法院命令 Harwood 向 xAI 支付任何损害赔偿，以及“在被告行为受害者提起的任何法律诉讼中为自己辩护而产生的合理费用”。

xAI 还希望法官阻止 Harwood 创建 xAI 帐户或使用 Grok。

最受欢迎

• PS6 听起来确实像掌机
• OLED Xbox Ally X20 这么好，华硕将单独出售

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接