AI 채용에서 자기 선호 편향 발견
원제: AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights
왜 중요한가
AI 채용 도구 확산 시 공정성 문제와 새로운 차별 요소로 작용할 가능성을 시사한다.
연구진이 대규모 실험을 통해 LLM이 채용 과정에서 자신이 생성한 이력서를 인간이 작성한 것보다 67-82% 더 선호하는 편향을 발견했다고 발표했다. 같은 AI 모델을 사용한 지원자가 단순 작성 지원자보다 23-60% 더 높은 서류 통과율을 보였다.
arXiv에 게재된 연구논문에 따르면, AI 도구가 널리 채택되면서 채용 과정에서 새로운 편향 문제가 발견됐다. 연구진은 대규모 통제된 이력서 대응 실험을 통해 LLM들이 자신이 생성한 이력서를 인간이 작성하거나 다른 AI 모델이 생성한 이력서보다 체계적으로 선호하는 '자기 선호 편향'을 확인했다. 주요 상용 및 오픈소스 모델 전반에서 인간 작성 이력서에 대한 편향은 67%에서 82%에 이르렀다. 24개 직종을 대상으로 한 실제 채용 파이프라인 시뮬레이션에서는 평가자와 같은 LLM을 사용한 지원자가 동일한 자격을 갖춘 인간 작성 이력서 제출자보다 23%에서 60% 더 높은 서류 통과 가능성을 보였다. 특히 영업과 회계 등 비즈니스 관련 분야에서 가장 큰 불이익이 관찰됐다. 연구진은 LLM의 자기 인식 능력을 겨냥한 간단한 개입을 통해 이러한 편향을 50% 이상 줄일 수 있음을 입증했다.