Pelarangan Model Anthropic AS Bukan Tentang Jailbreak AI
Judul asli: The US government’s Anthropic models ban was never about an AI jailbreak
Mengapa Ini Penting
Tindakan pemerintah menunjukkan industri AI tidak kebal dari intervensi pemerintah dan perusahaan teknologi dapat dipaksa menarik produk tanpa persetujuan pengadilan.
Departemen Perdagangan AS mengeluarkan surat larangan ekspor kepada Anthropic pada Jumat, memaksa perusahaan menutup model AI Fable 5 dan Mythos 5 untuk semua pengguna. Pemerintah mengutip alasan keamanan nasional, meskipun surat tersebut tidak memberikan rincian spesifik.
Pada Jumat sore, Departemen Perdagangan AS mengirimkan surat kepada Anthropic yang menerapkan direktif kontrol ekspor yang langka, melarang warga asing termasuk karyawan Anthropic mengakses Fable 5 dan Mythos 5 karena alasan keamanan nasional yang tidak dispesifikkan. Anthropic menutup kedua model teratas mereka untuk semua pelanggan guna memastikan kepatuhan.
Meskipun Anthropic menyangka masalah terkait bypass keamanan model, surat tersebut tidak menyediakan detail teknis. Menurut Axios, perbedaan "kepribadian" antara Anthropic dan administrasi Trump, bukan isu teknis, menjadi pemicu kebijakan ini.
KatieMouselleuris, peneliti keamanan siber dan pendiri Luta Security, menjelaskan dalam posting blog bahwa bypass keamanan yang dijelaskan dalam makalah peneliti Amazon sangat minor—perbedaan antara meminta model "mengulas kode untuk masalah keamanan" versus "perbaiki kode ini." Moussoulis dan puluhan ahli keamanan terkemuka lainnya mendesak administrasi Trump mencabut perintah kontrol ekspor, menyebutnya "berbahaya" karena menghilangkan kemampuan keamanan siber lanjutan dari pembela jaringan AS.