Meta Luncurkan AI Deteksi Iklan Berisi Konten Pelecehan Anak
Judul asli: Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
Mengapa Ini Penting
Tekanan regulasi dan gugatan miliaran dolar mendorong Meta mempercepat inovasi keamanan anak.
Meta umumkan Rabu ini tindakan terhadap 33,2 juta konten eksploitasi seksual anak di Facebook dan Instagram pada paruh pertama 2026, sekaligus meluncurkan alat AI baru.
Lebih dari 97% konten yang ditindak Meta ditemukan oleh sistemnya sendiri sebelum dilaporkan pengguna. Di India, angkanya mencapai 5,3 juta konten dengan tingkat deteksi otomatis di atas 98%.
Alat AI terbaru difokuskan pada taktik "signposting" — iklan yang tampak normal namun diam-diam mengarahkan pengguna ke situs eksternal berisi child sexual abuse material (CSAM). Untuk mendeteksi ini, Meta membangun sistem berbasis large language model (LLM) yang kini memeriksa ke mana sebuah iklan mengarahkan pengguna, bukan hanya isi iklan itu sendiri.
Meta juga meluncurkan "red-teaming AI agent" yang secara aktif menguji celah pada sistem keamanan internalnya sendiri — mencari kelemahan sebelum dieksploitasi pelaku kejahatan. Selain itu, sistem pendeteksi akun berulang (akun baru yang dibuat setelah akun lama dihapus) turut diperkuat.
Langkah ini muncul di tengah tekanan hukum dan regulasi terhadap Meta. Pada Agustus lalu, perusahaan menyepakati pembayaran hingga 18 miliar dolar AS untuk menyelesaikan gugatan keamanan anak yang melibatkan 29 negara bagian AS.