Kerentanan Kritis Copilot Izinkan Peretas Curi Kode 2FA
Judul asli: Critical Copilot vulnerability allowed hackers to seal 2FA code from users
Mengapa Ini Penting
Mengungkap kelemahan fundamental keamanan AI yang tidak dapat diselesaikan dengan hanya patch tambahan, memerlukan pendekatan desain ulang dari model bahasa.
Microsoft menambal kerentanan tingkat kritis di M365 Copilot yang memungkinkan peretas mengambil kode autentikasi dua faktor dan data sensitif lainnya dari email. Temuan peneliti keamanan mengungkap bagaimana model bahasa AI gagal membedakan perintah pengguna dan instruksi berbahaya dalam konten pihak ketiga.
Selasa pekan lalu, Microsoft merilis patch untuk kerentanan berkategori maksimal kritis di platform Copilot M365. Hari Senin, peneliti yang menemukan kerentanan ini mengungkapkan bagaimana eksploit proof-of-concept mereka bisa mengambil kode 2FA dan data sensitif dari email yang dapat diakses Copilot. Penyebab akar masalah adalah model bahasa AI tidak mampu membedakan antara instruksi dari pengguna dan instruksi berbahaya yang disisipkan dalam konten pihak ketiga yang sedang dirangkum atau diproses. Firma keamanan Varonis merancang rantai eksploit yang dapat melewati penjaga keamanan Copilot. Eksploit menggunakan Parameter-to-Prompt Injection, menempatkan perintah berbahaya dalam parameter kueri URL daripada dalam email. Penyerang mengirim email berisi URL dengan sintaks khusus kepada target. Copilot dengan mudah mematuhi instruksi tersebut. Peneliti mencatat bahwa fungsi pencarian adalah target sempurna karena pengguna dengan akses ke informasi kritis sudah cukup untuk membocorkan data. Microsoft dan penyedia LLM lain telah menggunakan penjaga pengaman yang rumit dan ad hoc untuk mengatasi kerentanan inheren dalam arsitektur AI mereka.