Newport: Saatnya Selidiki Lab AI Besar
Judul asli: It's Time to Investigate the AI Labs
Mengapa Ini Penting
Tekanan publik terhadap transparansi lab AI bisa memicu regulasi konkret di AS.
Penulis Cal Newport desak Kongres AS selidiki OpenAI dan Anthropic lewat op-ed di New York Times, soal proyek riset, prosedur keamanan, dan ideologi internal lab.
Cal Newport, penulis dan akademisi teknologi, menerbitkan op-ed di New York Times yang menyerukan Kongres AS menggelar misi pencarian fakta terhadap dua lab AI terdepan: OpenAI dan Anthropic. Seruan ini muncul setelah serangkaian langkah yang ia nilai sebagai kampanye terkoordinasi — dimulai dari pengumuman OpenAI soal agen LLM yang disebut sudah melakukan tindakan ilegal, lalu dilanjutkan debat publik karyawan Anthropic soal probabilitas kepunahan manusia akibat AI.
Puncaknya adalah surat CEO Anthropic Dario Amodei berjudul "We Must Pace the Frontier," yang merinci potensi bahaya riset perusahaannya sendiri, namun berujung pada kesimpulan bahwa solusinya adalah pemerintah memperlambat kompetitor dan membiarkan lab-lab ini memimpin. CEO OpenAI Sam Altman ikut mendukung lewat X.
Newport mengusulkan tiga fokus investigasi: identifikasi sistem AI spesifik yang bermasalah, pemeriksaan prosedur keamanan internal — termasuk mengapa serangan tidak sah oleh agen otonom OpenAI tidak dihentikan lebih awal — serta penelusuran peran ideologi futuristik apokaliptik dalam pengambilan keputusan riset kedua lab tersebut.