Anthropic Usulkan RUU yang Bisa Blokir Model AI
Judul asli: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
Mengapa Ini Penting
Proposal ini bisa jadi acuan regulasi AI federal pertama di AS dengan ambang batas risiko terukur.
Anthropic mengusulkan draft RUU keamanan AI ke Kongres AS yang memungkinkan pemblokiran model jika berpotensi menewaskan 50+ orang atau menyebabkan kerugian properti di atas $1 miliar.
Anthropic sedang melobi Kongres AS dengan draft undang-undang keamanan AI yang mendefinisikan "risiko katastrofik" secara spesifik: lebih dari 50 orang meninggal, atau kerugian properti melebihi $1 miliar. Risiko tersebut harus terkait dengan pembuatan senjata biologis, model yang lolos dari kendali pengembang, atau serangan siber.
Draft ini mengusulkan penggunaan "evaluator independen" yang terdaftar di Departemen Perdagangan AS untuk menilai potensi bahaya sebuah model. Menariknya, biaya evaluasi bisa dibayar oleh lab AI itu sendiri — selama pembayaran tidak bergantung pada hasil evaluasi. Mekanisme untuk memastikan tidak ada konflik kepentingan belum dijelaskan.
Jika evaluator mendeteksi risiko, mereka punya 72 jam untuk melapor ke Departemen Perdagangan, yang kemudian harus mengajukan permohonan ke hakim di D.C. untuk menghentikan rilis model. RUU ini secara eksplisit melarang lembaga federal mana pun memblokir distribusi model secara sepihak.
Angka 50 orang dan $1 miliar selaras dengan California Senate Bill 53 yang baru disahkan. Juru bicara Anthropic mengonfirmasi draft ini kepada Politico dan menyatakan proposal tersebut berasal dari Advanced AI Framework yang sudah mereka advokasikan sejak Juni.