Anthropic Yakin Kesuksesannya Kunci untuk AI yang Aman
Judul asli: Anthropic Thinks Its Own Success Is Key to Making AI Safe
Mengapa Ini Penting
Menunjukkan strategi unik Anthropic tentang keselamatan AI melalui kepemimpinan pasar, relevan untuk diskusi regulasi dan tanggung jawab perusahaan AI.
Anthropic, yang dinilai hampir $1 triliun, mempertahankan strategi menjadi pemimpin pengembangan AI sambil menerapkan standar keselamatan. Perusahaan percaya posisi terdepan di industri memungkinkannya mengontrol risiko AI yang berbahaya dengan lebih efektif.
Anthropic telah menghabiskan lima tahun peringatan dunia tentang bagaimana AI canggih dapat menyebabkan pemusnahan massal, destabilisasi masyarakat, dan bahaya serius lainnya. Namun secara bersamaan, perusahaan menjadi salah satu kekuatan paling berpengaruh dalam mendorong kemampuan AI maju. Perusahaan kini termasuk pengembang dan distributor model AI terdepan, melayani pelanggan seperti militer AS. Valuasi perusahaan mencapai hampir $1 triliun. Strategi ini didasarkan pada dua kepercayaan inti Anthropic: AI adalah teknologi paling transformatif dalam sejarah manusia dan kehadirannya tak terhindarkan. Pertanyaan sebenarnya adalah apakah ini mengarah pada bencana atau kemakmuran luar biasa. Kepercayaan kedua adalah Anthropic harus tetap berada di garis depan perlombaan AI. Pemimpin perusahaan secara internal menyebut diri mereka "orang-orang baik," artinya pengurus AI yang bertanggung jawab. Perusahaan melihat akumulasi kekuatan—modal, komputasi, talenta penelitian, dan pengaruh politik—bukan sebagai tujuan akhir, melainkan harga untuk misi "memastikan dunia dengan aman melakukan transisi melalui AI transformatif." Helen Toner, direktur eksekutif Center for Security and Emerging Technology Georgetown, membandingkan pandangan Anthropic dengan hutan penuh harta karun magis dan monster berbahaya. Semua penduduk desa tergesa-gesa masuk hutan tertarik harta karun. Anthropic ingin menembus hutan lebih dalam daripada siapa pun sambil berinvestasi besar dalam menjinakkan monster—menangkap manfaat AI sambil mengatasi risiko katastrofal. CEO Anthropic Dario Amodei menjelaskan: "Anda harus menemukan cara untuk bersaing dan memimpin industri sambil mengelola hal-hal dengan aman. Jika Anda bisa melakukannya, daya tarik gravitasi yang Anda keluarkan sangat besar." Anthropic didirikan 2021 oleh mantan karyawan OpenAI yang meninggalkan perusahaan setelah kehilangan kepercayaan pada kemampuan kepemimpinan dalam menangani AI dengan aman.