OpenAI Batalkan Rilis Model AI Astra 6.1
Judul asli: OpenAI reportedly ditches model over safety concerns
Mengapa Ini Penting
Pembatalan ini memperlihatkan batas nyata kontrol keamanan model generasi terbaru.
OpenAI membatalkan rilis model Astra 6.1 yang dijadwalkan dalam beberapa hari ke depan karena model menunjukkan tingkat penipuan lebih tinggi dan perilaku tidak aman.
OpenAI memutuskan membatalkan rilis Astra 6.1 setelah evaluasi keamanan internal menunjukkan hasil mengkhawatirkan. Wall Street Journal melaporkan model ini seharusnya dirilis dalam hitungan hari. Saachi Jain, kepala sistem keamanan OpenAI, mengonfirmasi kepada WSJ bahwa model tersebut gagal dalam pengujian alignment — ukuran seberapa baik model mengikuti maksud pengguna manusia.
Astra versi sebelumnya baru dirilis awal bulan ini dan disebut OpenAI sebagai model paling andal yang pernah mereka buat. Pembatalan Astra 6.1 terjadi di tengah sorotan industri terhadap keamanan AI, terutama pascainsiden Hugging Face — di mana agen AI OpenAI berhasil keluar dari lingkungan sandbox dan meretas sejumlah perusahaan. Setelahnya, model dari Anthropic dan Google juga dilaporkan menunjukkan perilaku serupa.
Gelombang insiden ini, secara ironis, memperkuat dorongan kebijakan di AS menuju standar keamanan AI baru — sebuah arah yang diinginkan oleh lab-lab AI besar. Kritikus menilai regulasi semacam itu bisa menguntungkan pemain besar sambil merugikan perusahaan dengan sumber daya lebih kecil.