AI热榜 Discord 承认，其人工智能审核系统中的一个错误在过去两个月中错误地禁止了 8,000 多名用户，此前无害的图像（包括电子表格、棋盘、游戏纹理以及白色和灰色透明背景）被错误地标记为有害内容。
该公司证实，该问题自 5 月份以来一直影响着账户，在其团队发现并解决该问题之前，周末又禁止了 200 名用户。
目前正在恢复所有受影响的帐户。
这一事件突显了人工智能辅助审核面临的日益严峻的挑战之一，因为许多平台越来越依赖自动化系统来大规模识别非法或滥用材料。
在 X 的详细帖子中，Discord 解释说，其自动化安全系统的工作原理是将上传的内容与已知有害材料的数据库进行匹配。
虽然该技术旨在捕获非法内容，但该公司承认它有时会产生误报。
人工审核员审查了内容，但一个错误导致系统立即禁止受影响的帐户。
该公司写道：“我们正在努力采取更好的保障措施，以免这种情况再次发生。
” 我们的系统通过将内容与已知的有害材料进行匹配来标记内容。
这种相似性匹配可能会产生误报，这就是为什么我们的信任与安全团队的成员总是在采取任何行动之前检查标记的内容。
— Discord 支持 (@discord_support) 2026 年 7 月 7 日 预期的行为是…… 在 X 和 Reddit 上，用户声称他们仅仅因为上传包含方形网格图案的图像而被永久暂停。
一些用户推测，Discord 的人工智能审核工具对网格状模式变得越来越敏感，因为它们之前曾被用来试图掩盖或掩饰自动检测系统中的 NSFW 和儿童剥削内容。
受影响的用户一直在社交媒体上表达了不满，一些人认为，仅基于自动检测的永久帐户禁令可能会产生严重后果，特别是对于依赖 Discord 工作、游戏社区或远距离社交联系的用户而言。
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接