Altman: AI tidak boleh ambil alih kendali manusia
Judul asli: Sam Altman warns against a future where AI, not humans, calls the shots
Mengapa Ini Penting
Pernyataan Altman menegaskan posisi OpenAI di tengah persaingan kontrol AI global.
CEO OpenAI Sam Altman di NYT DealBook Summit, Rabu, tegas menolak gagasan 'gradual handover' — penyerahan otoritas pengambilan keputusan secara bertahap kepada AI di semua industri.
Di panggung NYT DealBook Summit bersama co-founder OpenAI Greg Brockman, Sam Altman menyebut meningkatnya diskusi di Silicon Valley soal kemungkinan AI mengambil alih kendali dari manusia sebagai 'ide yang sangat buruk'. "Kita perlu memastikan bahwa manusia tetap memegang kontrol atas masa depan secara mendalam, dan kita tidak mengalami penyerahan kekuasaan ini — baik secara tidak sengaja maupun disengaja," kata Altman.
Teori 'handover' ini berakar dari konsep recursive self-improvement (RSI), di mana model AI yang semakin canggih akan membangun generasi AI yang lebih cerdas hingga akhirnya mencapai superintelligence yang tidak bisa dikendalikan manusia. Altman mengakui ia dan Brockman masih berdebat soal cara terbaik mencegah skenario itu, bukan soal tujuannya.
Brockman menyoroti tantangan teknis: model AI terbaru kini mampu menyelesaikan tugas tanpa menuliskan proses berpikirnya secara eksplisit melalui chain of thought. "Itu berarti kita butuh pendekatan baru untuk monitoring," ujarnya. Ia menekankan bahwa seiring kemampuan model meningkat, tanggung jawab soal alignment, keamanan, dan pengawasan juga harus ikut berkembang.