Discord Users Dapatkan Akses Tak Sah ke AI Mythos Anthropic
Judul asli: Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythos
Mengapa Ini Penting
Menunjukkan kerentanan keamanan dalam distribusi model AI canggih
Sekelompok pengguna Discord berhasil mengakses model AI Mythos Preview milik Anthropic tanpa izin. Mereka menggunakan data kebocoran startup Mercor dan menebak lokasi online model tersebut berdasarkan format URL Anthropic lainnya.
Model AI Mythos Preview Anthropic dirancang untuk menemukan kerentanan keamanan dalam perangkat lunak dan jaringan. Meski Anthropic membatasi ketat aksesnya, sekelompok pengguna Discord berhasil masuk tanpa otorisasi. Mereka memanfaatkan data dari kebocoran Mercor, startup pelatihan AI, dan menebak lokasi online model berdasarkan format yang digunakan Anthropic untuk model lain. Salah satu anggota juga memanfaatkan izin yang sudah dimiliki untuk mengakses model Anthropic lain melalui pekerjaannya di perusahaan kontraktor Anthropic. Hasilnya, mereka tidak hanya mengakses Mythos tetapi juga model AI Anthropic lain yang belum dirilis. Menurut Bloomberg, grup ini sejauh ini hanya menggunakan Mythos untuk membangun situs web sederhana guna menghindari deteksi, bukan untuk aktivitas peretasan.