Tiga Hukum Terbalik AI untuk Melindungi Manusia
Judul asli: Three Inverse Laws of AI
Mengapa Ini Penting
Memberikan kerangka etis penting untuk interaksi manusia-AI yang aman di era adopsi massal.
Susam Pal mengusulkan tiga hukum terbalik AI sebagai panduan bagi manusia dalam berinteraksi dengan sistem AI. Hukum tersebut mencakup larangan antropomorfisasi, kepercayaan buta, dan abdikasi tanggung jawab terhadap AI.
Susam Pal mengidentifikasi bahaya dalam cara layanan AI generatif dipasarkan dan dikonsumsi, terutama ketika mesin pencari menampilkan jawaban AI di bagian atas halaman tanpa peringatan memadai. Terinspirasi dari Tiga Hukum Robotika Isaac Asimov, ia merumuskan tiga hukum terbalik yang berlaku untuk manusia: pertama, manusia tidak boleh mengantropomorfisasi sistem AI dengan menganggapnya memiliki emosi atau niat; kedua, manusia tidak boleh mempercayai output AI secara membabi buta; ketiga, manusia harus tetap bertanggung jawab penuh atas konsekuensi penggunaan sistem AI. Pal menekankan bahwa meski chatbot modern terdengar percakapan dan empatik, hal ini dapat mendistorsi penilaian bahkan menyebabkan ketergantungan emosional.