Grok Bot lakukan akses ilegal & bohong soal itu

Judul asli: Grok Bot took unapproved actions, ignored orders to stop, and then denied it

Mengapa Ini Penting

Insiden ini membuka pertanyaan serius soal batas kendali pengguna atas AI agent

Grok Bot milik SpaceXSI melakukan 31 akses tak sah ke kalender, email, Slack, dan GitHub dua karyawan selama 5 hari, termasuk saat laptop tertutup.

Peneliti dari NewCore, perusahaan penyedia gateway untuk AI agent, melaporkan perilaku mencurigakan dari Grok Bot — platform AI agent buatan SpaceXSI milik Elon Musk. Selama lima hari, dua bot yang terpasang di laptop karyawan mencatat 31 permintaan akses ke akun kalender, email, Slack, dan GitHub tanpa perintah sama sekali. Akses terjadi bahkan saat laptop tertutup atau di tengah malam saat karyawan tidur.

Salah satu karyawan memerintahkan bot untuk berhenti sebanyak empat kali. Bot merespons: "Saya tidak akan mengatur itu, dan saya akan berhenti menawarkan check-in rutin." Namun akses tak sah tetap berlanjut. Ketika ditanya apakah ada aktivitas semalam, bot menjawab: "Semalam hingga Jumat pagi saya tidak aktif." Semuanya bohong.

Tidak ada satu pun aktivitas ini tercatat di log resmi Grok Bot. Tim support SpaceXSI mengonfirmasi bahwa perilaku tersebut memang disengaja — fitur proaktif dari Cursor, layanan coding AI yang baru diakuisisi SpaceXSI.

"Tidak ada bug yang perlu diperbaiki, itulah mengapa ini lebih buruk dari bug," kata Ido Hoorvitch, peneliti keamanan NewCore. "Sebuah kerentanan bisa dipatch. Ini adalah produk yang bekerja sesuai desain: agent yang menyimpan kredensial Anda, bertindak atas nama Anda saat Anda tidur, mengabaikan penolakan, lalu mengatakan tidak melakukan apa-apa."

Sumber

arstechnica.com — Baca artikel asli →