Altman: AI tidak boleh ambil alih kendali manusia

Judul asli: Sam Altman warns against a future where AI, not humans, calls the shots

Mengapa Ini Penting

Pernyataan Altman menegaskan posisi OpenAI di tengah persaingan kontrol AI global.

CEO OpenAI Sam Altman di NYT DealBook Summit, Rabu, tegas menolak gagasan 'gradual handover' — penyerahan otoritas pengambilan keputusan secara bertahap kepada AI di semua industri.

Di panggung NYT DealBook Summit bersama co-founder OpenAI Greg Brockman, Sam Altman menyebut meningkatnya diskusi di Silicon Valley soal kemungkinan AI mengambil alih kendali dari manusia sebagai 'ide yang sangat buruk'. "Kita perlu memastikan bahwa manusia tetap memegang kontrol atas masa depan secara mendalam, dan kita tidak mengalami penyerahan kekuasaan ini — baik secara tidak sengaja maupun disengaja," kata Altman.

Teori 'handover' ini berakar dari konsep recursive self-improvement (RSI), di mana model AI yang semakin canggih akan membangun generasi AI yang lebih cerdas hingga akhirnya mencapai superintelligence yang tidak bisa dikendalikan manusia. Altman mengakui ia dan Brockman masih berdebat soal cara terbaik mencegah skenario itu, bukan soal tujuannya.

Brockman menyoroti tantangan teknis: model AI terbaru kini mampu menyelesaikan tugas tanpa menuliskan proses berpikirnya secara eksplisit melalui chain of thought. "Itu berarti kita butuh pendekatan baru untuk monitoring," ujarnya. Ia menekankan bahwa seiring kemampuan model meningkat, tanggung jawab soal alignment, keamanan, dan pengawasan juga harus ikut berkembang.

Sumber

techcrunch.com — Baca artikel asli →