AI热榜 三秒盗窃：为何人工智能语音欺诈胜过一切防御 莎朗·布莱特韦尔听到她女儿在电话那头哭泣，她的任何防御都到此为止了。
这声音属于阿普丽尔，至少每一种本能都坚持如此：同样的音色，同样破碎的节奏，就像一个陷入困境的年轻女子一样。
声音说她开车时发短信，撞到了一名孕妇，她的手机被警察没收了。
随后，一名男子接听了电话，自称是阿普丽尔的律师，并解释说，保释需要支付一万五千美元现金。
他警告布莱特韦尔不要告诉银行这笔钱的用途，因为这可能会损害她女儿的信用。
不到一个小时，这位来自佛罗里达州多佛市的退休人员就提取了这笔钱，并将其交给了一名她认为与法院有联系的快递员。
直到她看到真正的阿普丽尔，一个早上都在工作，从未遭遇过车祸的她，才明白女儿并没有打来电话。
没有人类有过。
哭声是由一段音频片段合成的，而她认为自己正在拯救的女儿只以别人机器中的数字模式存在。
2025 年夏天，美国当地新闻报道了布莱特韦尔的失踪，这已成为美国最常见的犯罪行为之一。
它也是技术最先进的之一。
这两个事实的冲突——需要机器学习的绝对前沿的欺诈行为可以在厨房里对一位普通的祖母进行大规模的、不付出任何代价——是执法、银行、电信公司和监管机构花了两年时间未能遏制的问题的决定性特征。
问题不再是该技术是否有效。
它的效果非常好。
问题是，当攻击的复杂性和目标的意识之间的差距不是以月为单位而是以年为单位来衡量时，需要什么有意义的保护。
二十六年账簿中的新一行 2026 年 4 月，FBI 互联网犯罪投诉中心发布了关于上一年网络犯罪的年度报告，在该报告 26 年的历史中，首次将人工智能欺诈作为一个单独的类别。
数字是严峻的。
该局记录了超过 22,000 起与 AI 关联的投诉，调整后的损失超过 8.93 亿美元。
其中，该报告将 3.52 亿美元的损失归咎于 60 岁及以上的受害者，这使得老年人成为人工智能金融犯罪中最有针对性的目标人群。
人工智能的数字属于一个更大的总额：美国各地的网络犯罪损失在一年内增长了 26%，达到 209 亿美元，其中 60 岁及以上的美国人损失了 77 亿美元，比前一年增长了约 60%。
联邦调查局坦言，即使这些数字也低估了这个问题。
报告中的人工智能归因仅反映了受害者所认识和报告的内容，大多数克隆语音通话的受害者根本不知道有机器参与其中。
正如莎朗·布莱特韦尔最初所认为的那样，他们相信他们是在对自己的孩子说话。
因此，8.93 亿美元最好被解读为一个下限，而不是一个上限——这一类别的可见部分，就其本质而言，旨在对其所伤害的人保持隐形。
联邦调查局觉得有必要创建这个类别，这本身就是一个信号。
犯罪统计数据是保守的工具；各机构不会为了一时的时尚而重新绘制已有 26 年历史的报告分类法。
账本中的新行承认三年前几乎不存在于消费者形式的工具已成为主流的盗窃工具。
在国际上，情况更大，而且正在恶化。
2026 年 3 月，国际刑警组织发布了第二版《全球金融欺诈威胁评估》，估计 2025 年全球金融欺诈损失将达到 4420 亿美元，相当于丹麦全年经济产出的总和。
该组织认为威胁轨迹正在升级，并描述了所谓的“欺诈工业化”：诈骗从投机取巧的个人转移到与人口贩运和网络犯罪交叉的有组织的跨国活动。
至关重要的是，国际刑警组织发现，人工智能增强型欺诈的利润大约是传统欺诈的四倍半，而且所谓的代理人工智能系统现在可以自主规划和执行整个欺诈活动，从侦察到赎金要求。
换句话说，经济已经倒转了。
工业规模的欺骗首次几乎无需花费任何成本即可获得丰厚回报。
只需三秒钟 祖父母骗局的核心技术能力非常容易描述。
现代人工智能语音克隆系统只需三秒的音频即可产生合成语音，在实际应用中，该合成语音与原始语音没有区别。
三秒是语音邮件问候语、播客片段、发布到 Instagram 公共帐户的生日视频下的音频的长度。
原材料不是从安全数据库中窃取的；它是每天通过记录生活的普通行为自愿实现的。
一个出现在 TikTok 视频中的孙子提供了诈骗者制造绑架所需的一切。
威胁变得如此严重的原因不仅在于克隆技术有效，还在于克隆技术的工具廉价、丰富且几乎完全不受监管。
2025 年 3 月，《消费者报告》评估了六家公司（Descript、ElevenLabs、Lovo、PlayHT、Resemble AI 和 Speechify）的语音克隆产品，得出的结论是，大多数公司缺乏任何有效的防范欺诈或滥用的保障措施。
该组织发现，其中四种产品只需要用户勾选一个框，确认他们拥有克隆相关声音的合法权利。
这四个人都没有采用任何技术机制来确认说话者确实同意，或限制克隆用户自己的声音。
这六家公司中有四家只需要提供姓名或电子邮件地址即可开设帐户。
NBC News 和 The Register 进一步放大了调查的直截了当的结论，即该行业开发了一种能够冒充任何人的工具，然后将其置于自我证明复选框后面。
🔗 原始来源
如果你要核对细节，可以再看原文： Hacker News AI原文链接