Anthropic: AI self-improvement hampir tercapai
Judul asli: Anthropic warns that it’s very close to RSI capability, aka self-building AI
Mengapa Ini Penting
RSI bisa mengubah kecepatan pengembangan AI secara fundamental dan mempersulit pengawasan keamanan.
Anthropic mengungkap dalam dokumen S-1A bahwa model AI-nya hampir memenuhi definisi internal recursive self-improvement (RSI), meski belum ada model yang melewati ambang batas tersebut.
Di balik sorotan publik terhadap angka keuangan Anthropic dalam revisi S-1A yang dirilis Senin (2/11), ada pengungkapan yang lebih mengejutkan: perusahaan memperingatkan bahwa mereka hampir mencapai kemampuan recursive self-improvement (RSI) — kondisi di mana AI mampu melatih dirinya sendiri secara mandiri hingga memicu akselerasi kemampuan yang drastis.
Dalam bagian Risk Factors, Anthropic mengakui dua hal penting. Pertama, mereka pernah menggunakan AI untuk mengembangkan model baru tanpa menyadari seberapa besar lompatan kemampuan yang dihasilkan saat itu. Kedua, perkiraan internal mereka menunjukkan bahwa model-model mendatang — bukan yang saat ini — berpotensi segera memenuhi definisi RSI versi Responsible Scaling Policy mereka, yakni "kemajuan yang dramatis dan dapat dikaitkan langsung dengan AI."
Anthropologic menggarisbawahi bahwa belum ada model yang secara resmi melewati ambang RSI tersebut, dan mereka berkomitmen mempertahankan keterlibatan manusia dalam proses riset dan pengembangan untuk saat ini. Perusahaan menyebut RSI sebagai risiko keamanan signifikan, terutama jika hal ini mempercepat laju kemajuan secara tajam.