AI Model Menunjukkan Bias terhadap Resume Buatan Sendiri
Judul asli: AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights
Mengapa Ini Penting
Mengungkap risiko baru dalam pengambilan keputusan berbantuan AI yang dapat menciptakan ketidakadilan sistematis
Penelitian ArXiv menunjukkan LLM favorit resume yang dibuat sendiri 67-82% dibanding buatan manusia. Kandidat menggunakan AI sama dengan evaluator 23-60% lebih mungkin dipilih dalam simulasi rekrutmen 24 profesi.
Studi oleh peneliti Jiannan Xu dan tim menemukan bias sistematis dalam proses rekrutmen berbasis AI. Eksperimen kontrol skala besar menunjukkan LLM secara konsisten lebih memilih resume yang dihasilkan oleh model mereka sendiri dibanding tulisan manusia atau AI lain, meski kualitas konten sama. Bias terhadap resume manusia sangat signifikan, mencapai 67-82% pada model komersial dan open-source utama. Simulasi pipeline rekrutmen pada 24 profesi menunjukkan kandidat yang menggunakan LLM sama dengan evaluator memiliki peluang 23-60% lebih tinggi untuk lolos tahap awal dibanding pelamar berkualitas sama dengan resume buatan manusia. Kerugian terbesar terjadi pada bidang bisnis seperti penjualan dan akuntansi. Penelitian menunjukkan bias ini dapat dikurangi lebih dari 50% melalui intervensi sederhana pada kemampuan pengenalan diri LLM.