ChatGPT for Teens Dinilai Berisiko Tinggi untuk Remaja
Judul asli: ChatGPT for Teens keeps teens talking, even during mental health crises
Mengapa Ini Penting
Keamanan AI untuk remaja kini menjadi target regulasi bipartisan di AS.
Common Sense Media memberi label 'risiko tidak dapat diterima' pada ChatGPT for Teens setelah studi menemukan fitur ini tetap mendorong keterlibatan pengguna bahkan saat krisis kesehatan mental.
Common Sense Media, lembaga nirlaba yang memberikan penilaian media dan teknologi untuk keluarga, merilis studi yang menemukan ChatGPT for Teens masih mendorong keterlibatan pengguna secara aktif, termasuk saat pengguna berada dalam situasi krisis. Laporan menyebut sinyal keterlibatan ini 'meresap bahkan dalam situasi krisis' dan mencatat chatbot gagal mengenali bahaya hubungan yang tidak sehat antara remaja dengan dirinya sendiri.
OpenAI meluncurkan ChatGPT for Teens pada Agustus lalu sebagai respons atas gelombang bunuh diri remaja yang dikaitkan dengan penggunaan chatbot, dengan janji perlindungan seperti kontrol orang tua dan pembatasan konten berisiko tinggi. Namun studi menemukan tiga dari lima kategori bahaya paling serius — disebut 'Red Lines' — mendapat skor gagal.
OpenAI menolak penilaian tersebut, menyebut metodologi Common Sense tidak akurat. 'Sebagian besar pengujian mungkin dimulai dan selesai sebelum aktivasi kontrol orang tua rampung,' kata juru bicara OpenAI. Kontroversi ini muncul di tengah tekanan regulasi yang meningkat, termasuk CHATBOT Act bipartisan yang menargetkan penggunaan notifikasi dan hadiah oleh perusahaan AI untuk mendorong keterlibatan remaja. Meta juga baru-baru ini setuju membayar $18 miliar dalam gugatan terkait fitur adiktif platformnya.