垃圾邮件发送者采用了一种巧妙的技术,用于隐藏对人工智能代理的攻击中的恶意提示,以逃避电子邮件平台上的过滤器,这些过滤器旨在标记大规模活动中使用的不需要的消息。
该技术被广泛称为 ASCII 走私。
两年前,它作为一种名为“AI 攻击”的手段而受到关注。
及时注射 更加隐秘。
法学硕士要处理的电子邮件或其他不受信任的内容中嵌入的恶意指令不是用普通文本编写的。
相反,它们是由一系列特殊的 统一码 标签。
例如,标记点 U+E0041 镜像“A”,U+E0061 镜像“a”。
No longer just for obscuring prompt injections The block of 128 tags mimics a portion of the 美国信息交换标准代码 几乎完美,但有一个主要区别:它们编码的字符可以被计算机读取,但根据设计,人类几乎完全看不到。
通过在这些标签中表达恶意提示,法学硕士可以检测到这些指令,但阅读电子邮件的人永远不会看到它们。
There’s much more about ASCII smuggling
🔗 原始来源
如果你要核对细节,可以再看原文: Ars Technica AI原文链接
AI热榜