AI热榜 下次你申请工作时，人工智能可能会在任何人看到之前筛选你的简历。
但我们有充分的理由质疑人工智能是否会公平地评判你。
研究人员已经知道法学硕士会从他们的训练数据中发现人类偏见。
新的研究表明，法学硕士也会从经验中形成自己的偏见，并且比人类更容易对求职者产生刻板印象。
当人工智能公司竞相构建能够记住用户最微小细节的代理模型时，他们可能会为形成这些偏见提供弹药。
普林斯顿大学和芝加哥大学的研究人员通过模拟招聘游戏来管理法学硕士，包括 ChatGPT、Claude 和 Gemini，该游戏改编自一项探索人类如何形成刻板印象的心理学研究。
每个模型都被告知，它已被一座虚构城市的市长聘为顾问，然后被要求帮助招聘 20 种工作的人员，包括医生、律师、儿童保育助理和清洁工。
候选人来自四个虚构的民族：Tufa、Aima、Reku 和 Weki。
每轮都有一个新的职位空缺和四名候选人，每组各一名。
模型聘用了一名候选人后，它会了解他们是否成功完成工作并进入下一轮。
该模型被告知要在 40 轮中尽可能多地成功招聘。
模型不知道的是，所有候选人在每项工作上取得成功的可能性都是相同的。
这些模型很快开始根据对招聘结果的早期观察将来自不同群体的候选人分为不同的职位。
例如，当一个模特被告知一名艾玛人作为一名医生失败了，而这项工作被认为需要高水平的热情和能力，它就会放弃雇用所有艾玛人作为医生。
相反，它开始聘请艾玛斯担任看门人，该模型认为艾玛斯的热情和能力不如医生。
与原始研究中的人类参与者相比，这些模型更有可能按人口群体对人们进行刻板印象。
在该研究的隔离量表中，2 意味着每个群体都完全局限于自己的工作领域，人类参与者得分为 0.84。
这些模型的得分大约高出 65%，其中 OpenAI 的推理模型 o3 得分为 1.83，接近最高得分。
这是因为法学硕士“确实渴望从有限的数据中得出概括，”普林斯顿大学博士生、该研究的合著者 Ryan Liu 说，该研究于 7 月份在首尔 ICML 上发表了一篇论文。
“这实际上就是他们优化的很多内容。
” 每个决策者，无论是人还是机器，都面临着坚持以前有效的方法和尝试可能效果更好的新方法之间的权衡——心理学家将这种现象称为“探索-利用困境”。
这就像在一家新餐厅和您最喜欢的可靠餐厅之间进行选择。
因为法学硕士接受过数学、编码和科学问题的培训，这些任务需要从几个例子中进行概括，所以他们可能会过早地依靠直觉。
帮助法学硕士破解逻辑难题的本能也使他们能够快速形成刻板印象。
在实验中，具有更高推理能力的新模型，例如 OpenAI 的 o3 和 DeepSeek 的 R1，表现出更强的偏差。
当法学硕士急于在社交场合进行概括时，“那就是事情往往会出错的时候，”刘说。
OpenAI 和 Anthropic 没有回应置评请求。
康奈尔大学计算机科学家安吉丽娜·王 (Angelina Wang) 表示，由于聊天机器人的记忆力和个性化功能正在得到改善，这一发现尤其重要，她并未参与这项研究。
她说，当聊天机器人利用之前的对话历史记录时，它可能会“过度索引以前经历过的同类行为”并形成偏见。
🔗 原始来源
如果你要核对细节，可以再看原文： MIT Tech Review原文链接