AI代理在招聘偏见形成上超越人类
普林斯顿的研究发现，GPT-4和Claude等大语言模型表现出的招聘偏见比人类高出65%。这表明先进的推理能力和长期记忆可能会无意中实现歧视自动化。
研究人员发现，包括OpenAI的O3和DeepSeek的R1在内的LLM，比人类多65%的可能性根据人口统计特征对求职者进行刻板印象。在一个模拟的招聘游戏中，模型在仅观察到一次成功或失败后，就迅速将虚构的民族群体划分为特定的工作角色，在隔离度量表上得分为1.83，而人类得分为0.84。这种过度概括源于模型对需要模式识别的任务进行优化，而当应用于社会决策时，这种特性变得危险。随着AI实验室将长期记忆集成到代理中以实现个性化，这些模型存在强化过去交互并巩固偏见的风险。