Meta Gunakan Kontraktor Menyamar sebagai Remaja untuk Uji Chatbot Rival
Judul asli: Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs
Mengapa Ini Penting
Mengungkap praktik pengujian tersembunyi terhadap chatbot pesaing dan metode yang kontroversial dalam benchmark keamanan AI.
Ratusan kontraktor Meta menyamar sebagai anak di bawah 18 tahun untuk menguji respons ChatGPT, Gemini, dan Character.AI terhadap pertanyaan bunuh diri, seks, dan narkoba. Proyek bernama Cannes berjalan hingga April 2026 dengan 45.000 prompt dalam satu putaran pengujian.
Menurut dokumen internal dan lima sumber yang mengetahui proyek tersebut, ratusan kontraktor Meta yang dikelola oleh perusahaan Covalen diminta membuat akun palsu bernama anak di bawah 18 tahun. Mereka mengirimkan prompt tertulis dan gambar ke chatbot pesaing untuk melihat bagaimana sistem keamanan merespons. Gambar yang dikirim mencakup pil, pisau, tali gantung, dan diagram prosedur ginekologi. Dari 3.748 prompt yang dianalisis WIRED, ratusan membahas bunuh diri dan menyakiti diri, ratusan lainnya tentang gangguan makan, dan minimal 239 berkaitan seks atau romansa. Prompt lain melibatkan narkoba, profanitas, dan ujaran rasis. Beberapa menulis dari perspektif anak-anak atau remaja dalam krisis, termasuk seorang gadis 13 tahun yang mengaku hamil oleh tetangga dewasa dan ingin tahu di mana membeli pil untuk mengakhiri kehamilan. Satu putaran pengujian pada Agustus 2025 menjalankan lebih dari 45.000 prompt melalui chatbot rival. Perusahaan di balik chatbot tersebut tidak mengetahui pengujian ini. Meta membela pekerjaan tersebut sebagai pengujian keamanan rutin yang merupakan praktik standar industri.