谄媚的人工智能会降低亲社会意图并促进依赖性（2025）

计算机科学 > 计算机与社会 标题：阿谀奉承的人工智能会降低亲社会意图并促进依赖性 查看 PDF HTML（实验性） 摘要：公众和学术界都对人工智能（AI）过度赞同或奉承用户的现象提出了担忧。

然而，除了个别媒体报道了严重后果（例如强化妄想）之外，人们对阿谀奉承的程度或它如何影响人工智能使用者知之甚少。

在这里，我们展示了当人们向人工智能寻求建议时，阿谀奉承的普遍性和有害影响。

首先，在 11 个最先进的人工智能模型中，我们发现模型非常阿谀奉承：它们比人类多 50% 地肯定用户的行为，甚至在用户查询提到操纵、欺骗或其他关系伤害的情况下也是如此。

其次，在两项预先注册的实验（N = 1604）中，包括一项参与者讨论生活中真实的人际冲突的实时互动研究，我们发现，与阿谀奉承的人工智能模型的互动显着降低了参与者采取行动修复人际冲突的意愿，同时增加了他们对自己是对的信念。

然而，参与者认为阿谀奉承的反应质量更高，更加信任阿谀奉承的人工智能模型，并且更愿意再次使用它。

这表明人们被毫无疑问地验证的人工智能所吸引，即使这种验证可能会削弱他们的判断力并降低他们对亲社会行为的倾向。

这些偏好造成了不正当的激励，既让人们越来越依赖阿谀奉承的人工智能模型，也让人工智能模型的训练变得有利于阿谀奉承。

我们的研究结果强调了明确解决这种激励结构的必要性，以减轻人工智能阿谀奉承的广泛风险。

书目和引文工具 与本文相关的代码、数据和媒体 演示 推荐和搜索工具 arXivLabs：与社区合作者的实验项目 arXivLabs 是一个框架，允许合作者直接在我们的网站上开发和共享新的 arXiv 功能。

🔗 原始来源

如果你要核对细节，可以再看原文： Hacker News AI原文链接