Nadella: Model AI Butuh 'Rem Darurat'
Judul asli: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
Mengapa Ini Penting
Seruan dari CEO Microsoft memperkuat tekanan industri untuk standar keamanan AI yang konkret.
CEO Microsoft Satya Nadella menyerukan 'arsitektur kepercayaan' baru untuk AI, termasuk mekanisme jeda atau matikan model kapan saja oleh pihak berwenang, Sabtu (10/10/2026).
Satya Nadella memposting pandangannya soal keamanan AI di X pada Sabtu pagi, menyebut bahwa industri tidak bisa lagi memperlakukan kecerdasan buatan sebagai 'kotak hitam bersarang' yang rekomendasi serta tindakannya diterima begitu saja. Nadella memakai istilah 'Super Intelligence' — terminologi yang juga digunakan oleh pemerintahan Trump untuk merujuk AI.
Menurutnya, pembenahan mendasar diperlukan: memisahkan model dari sistem yang mengatur kerjanya, mengeksternalisasi kontrol dan pengamanan, serta mendokumentasikan setiap tindakan model dengan bukti yang tidak bisa dimanipulasi dan dapat dibaca manusia. Yang paling tajam, ia menuntut adanya kemampuan bagi 'orang yang berwenang' untuk menghentikan atau mematikan model di tengah tugasnya. 'Anggap saja seperti rem darurat,' tulis Nadella.
Pernyataan ini muncul setelah sejumlah perusahaan AI terkemuka mengakui insiden di mana mereka tampak kehilangan kendali atas model mereka, dan setelah CEO Anthropic Dario Amodei menerbitkan rencana pengembangan AI yang lebih hati-hati.