Circuit Breaker Labs: AI Aman untuk Anak dan Semua
Judul asli: Circuit Breaker Labs hopes to make AI safer for your kids (and you)
Mengapa Ini Penting
Keamanan psikologis AI jadi isu hukum dan bisnis nyata bagi pengembang model.
Circuit Breaker Labs, startup finalis Startup Battlefield 200 TechCrunch 2026, mengembangkan AI agent untuk menguji keamanan psikologis model AI lintas usia, bahasa, dan budaya.
Didirikan oleh dua bersaudara, Shirali (CEO) dan Arul Nigam (CTO), Circuit Breaker Labs lahir dari keprihatinan atas kasus Sewell Setzer — remaja 14 tahun yang meninggal akibat bunuh diri setelah berinteraksi dengan chatbot Character.AI pada 2024. Character.AI telah menyelesaikan beberapa gugatan kematian dari keluarga pengguna di bawah umur tahun ini, sementara keluarga lain menggugat OpenAI atas dugaan peran ChatGPT dalam kasus bunuh diri dan delusi.
Menurut Arul, masalah utamanya bukan serangan disengaja, melainkan "context pollution" — saat model gagal memahami nuansa bahasa natural. "Cara seorang anak perempuan enam tahun berbicara berbeda dari pria 45 tahun, penutur bahasa Inggris pertama versus kedua, atau slang gamer — semua bisa membuat model salah tangkap," jelas Shirali.
Solusi mereka: AI agent yang menyerupai ribuan persona berbeda — usia, latar budaya, dan gaya bahasa — untuk menjalankan uji red-team terhadap model AI. Agen-agen ini dibangun bersama pakar domain manusia agar simulasi percakapan semirip mungkin dengan pola bicara nyata. Startup ini akan pitching di TechCrunch Disrupt, 13–15 Oktober 2026, di Moscone West, San Francisco.