OpenAI Luncurkan Alat Baru Lawan CSAM
Judul asli: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
Mengapa Ini Penting
Langkah ini menjadi standar baru industri AI dalam penanganan CSAM secara proaktif.
OpenAI merilis classifier gambar, peringatan ChatGPT, dan panduan developer untuk memerangi konten pelecehan seksual anak (CSAM) pada 16 November 2026.
OpenAI memperkenalkan serangkaian alat baru untuk memerangi CSAM, termasuk classifier gambar berbasis AI, sistem peringatan di ChatGPT, panduan bagi developer, dan fitur khusus untuk penegak hukum.
Classifier gambar baru dikembangkan bersama National Center for Missing and Exploited Children (NCMEC) dan dapat mendeteksi CSAM termasuk yang dibuat oleh AI. Alat ini tersedia gratis via API untuk perusahaan terpilih. Dalam pengujian awal, classifier ini memflag 48% lebih sedikit gambar sambil tetap menemukan jumlah konten berbahaya yang sama—artinya gambar yang terflag dua kali lebih mungkin benar-benar berisi konten pelecehan.
Di ChatGPT, pengguna yang mencoba mengakses konten yang mengeksploitasi anak akan melihat layar peringatan, diarahkan ke layanan dukungan khusus, dan akunnya diblokir sementara selama 24 jam. Pelanggaran berulang dapat berujung pada penghapusan akun permanen. Panduan pesan ini disusun bersama Protect Children, Lucy Faithfull Foundation, dan peneliti dari University of Tasmania.
Untuk penegak hukum, OpenAI menyediakan plugin khusus, alat investigasi, analisis data kompleks, serta pelatihan dan panduan lapangan penggunaan AI. OpenAI sebelumnya menghadapi sejumlah gugatan terkait keamanan teknologinya, dan Common Sense Media pernah melabelnya sebagai "risiko tidak dapat diterima" bagi remaja.