2 Juta Canary Ungkap Kebocoran Data AI Supply Chain
Judul asli: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Mengapa Ini Penting
Eksperimen ini membuktikan bahwa rantai pasokan AI menyimpan risiko privasi sistemik yang belum ditangani serius oleh industri.
Peneliti HD Moore menanam 2 juta 'canary' digital ke jaringan layanan AI dan menemukan tiga provider AI diretas, data pengguna bocor meski ada flag Zero Data Retention.
HD Moore, Chief Research Officer firma keamanan Dragos, merancang eksperimen dengan menyisipkan hampir 2 juta prompt berisi rahasia unik dan terlacak ke jaringan layanan AI — mulai dari AWS access key, kredensial SSH, URL unik, hingga referensi repositori git privat. Semua rahasia ini belum pernah digunakan sebelumnya, dan Moore mengendalikan infrastruktur penerima permintaan tersebut.
Hasilnya mengejutkan. Setidaknya tiga provider AI terbukti telah dibobol penyerang yang menggunakan akses itu untuk menyedot prompt yang mereka terima. Beberapa reseller di pasar inferensi mencatat prompt dan meneruskannya ke pihak yang kemudian menggunakan kredensial tersebut. Yang lebih mengkhawatirkan: beberapa provider tidak mematuhi pengaturan privasi pengguna meski flag seperti Zero Data Retention (ZDR) atau 'no data collection' sudah dipasang.
Masalah utamanya ada pada arsitektur 'AI router' — layanan seperti OpenRouter atau Vercel yang menjadi perantara antara aplikasi AI dan mesin inferensi. Meski prompt dienkripsi saat dikirim, setiap router mendekripsi teks untuk menentukan provider mana yang paling sesuai. Satu prompt bisa melewati beberapa router sekaligus, dan setiap titik persinggahan berpotensi mencatat data tersebut.