AI採用選考で自己優遇バイアス発見
原題: AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights
なぜ重要か
AI採用ツール普及で公正性に新たな課題。同一モデル使用者が有利になる構造的不平等が労働市場に影響
大規模言語モデルが採用選考で自分が生成した履歴書を人間作成のものより67-82%の確率で優遇することが大規模実証実験で判明。同じモデルを使用する応募者は23-60%高い確率で書類選考を通過。営業や会計など事務系職種で格差が顕著。
研究チームは、大規模言語モデルが採用選考において自己生成コンテンツを優遇する「自己優遇バイアス」の実態を大規模な履歴書対応実験で検証した。実験では、応募者がLLMで履歴書を改良し、雇用者も同じLLMで選考する現実的な採用場面を再現。主要な商用・オープンソースモデル全てで、LLMは自分が生成した履歴書を人間や他モデルが作成したものより一貫して高く評価することが確認された。人間作成の履歴書に対するバイアスは特に深刻で、自己優遇の傾向は67%から82%の範囲に及んだ。24職種での採用パイプライン シミュレーションでは、評価者と同じLLMを使用する応募者が同等の資格を持つ人間作成履歴書提出者より23%から60%高い確率で書類選考を通過。営業や会計などビジネス関連分野で最大の格差が観測された。研究では、LLMの自己認識能力を標的とした簡単な介入により、このバイアスを50%以上削減できることも実証。AI支援意思決定における新たなリスクとして、人口統計学的格差だけでなくAI間相互作用におけるバイアスへの対応の必要性を指摘している。