Anthropic Kembangkan Sistem Verifikasi Identitas Model AI
Judul asli: Anthropic is working on a system to prove AI models’ identity
Mengapa Ini Penting
Verifikasi identitas model AI jadi fondasi kepercayaan dan akuntabilitas industri.
Anthropic umumkan FlashProve, sistem open source berbasis kriptografi untuk membuktikan output AI berasal dari model tertentu, dirilis Selasa 3 November 2026.
Anthropic sedang mengembangkan sistem bernama FlashProve yang memungkinkan pengguna memverifikasi secara kriptografis bahwa output AI benar-benar dihasilkan oleh model yang diklaim. Sistem ini bekerja dengan cara mengharuskan lab AI menerbitkan "fingerprint" untuk setiap model yang dirilis. Fingerprint tersebut kemudian dapat dicocokkan dengan output spesifik secara matematis — tanpa mengungkap bobot model (weights), yakni data internal yang dijaga ketat oleh perusahaan seperti Anthropic dan OpenAI.
FlashProve dirancang tahan terhadap upaya penyamaran satu model sebagai model lain, bahkan jika pelakunya adalah lab yang membangun model itu sendiri. Peneliti menyebut sistem ini bisa mencegah perusahaan AI secara diam-diam mengganti model mahal dengan versi lebih murah untuk menekan biaya, atau sebaliknya, menggunakan model lebih canggih demi menggelembungkan hasil performa.
Kasus penggunaan lain mencakup verifikasi klaim pihak ketiga. "Seorang developer mungkin mengklaim bahwa library perangkat lunaknya dipindai oleh model keamanan siber frontier," tulis peneliti dalam pengumuman tersebut. "Bagaimana pengguna bisa memverifikasi klaim ini?"
Sistem ini dirancang ringan sehingga verifikasi dapat dilakukan di perangkat lokal. Kode dan spesifikasi teknis telah dipublikasikan di GitHub dengan lisensi open source. Meski demikian, Anthropic menegaskan belum ada rencana penerapan di platform mereka maupun lab lain. "Ini adalah kemajuan antara, bukan agenda riset yang selesai," kata para peneliti.