AIエージェントは採用バイアスの生成で人間を上回る
princetonの研究によると、gpt-4やclaudeのようなLLMは人間より65%多くの採用バイアスを示すことが判明した。これは、高度な推論能力と長期記憶が意図せず差別を自動化してしまう可能性があることを示唆している。
研究者らは、OpenAIのO3やDeepSeekのR1を含むLLMは、人間よりも人口統計学的特性に基づいて職務申請者を固定観念で捉える可能性が65%高いことを発見した。シミュレートされた採用ゲームでは、モデルは1つの成功または失敗を観察しただけで、架空の民族グループを特定の職務役割に迅速に分離し、0.84の人間のスコアに対して、1.83の分離スケールを記録した。この過剰な一般化は、パターン認識を必要とするタスクでのモデルの最適化に起因しており、社会的意思決定に適用されると危険な特性となる。 AIラボがエージェントに長期記憶を統合してパーソナライゼーションを可能にすると、これらのモデルは過去の相互作用を強化し、偏見を強固にするリスクがある。