Trillium Labs: Riset AI Berisiko Tinggi Secara Terbuka
Judul asli: These AI Experts Want to Do High-Stakes Research Out in the Open
Mengapa Ini Penting
Keterbukaan riset AI berpotensi mempercepat pengawasan komunitas terhadap model-model berisiko tinggi.
Nathan Lambert dan Tom Zick mendirikan nonprofit Trillium Labs untuk meneliti AI—termasuk recursive self-improvement dan agen AI—secara transparan dan dapat direplikasi publik.
Saat lab-lab AI besar memilih menutup riset berisiko di balik tembok akses terbatas, dua ilmuwan industri justru melawan arus. Nathan Lambert (mantan Ai2 dan Hugging Face) dan Tom Zick (mantan Harvard dan Charles Schwab) mendirikan nonprofit Trillium Labs yang berkomitmen mempublikasikan detail eksperimen—termasuk di bidang recursive self-improvement (RSI) dan agen AI—agar peneliti luar bisa mempelajari dan mereplikasinya.
Lambert berargumen bahwa ketertutupan lab frontier seperti OpenAI dan Anthropic justru melemahkan kemampuan komunitas ilmiah untuk mendeteksi risiko. "Selama ribuan tahun, metode ilmiah menjadi alat manusia untuk mengurangi bahaya. Arah tertutup pengembangan AI frontier saat ini membawa kita mundur," ujarnya kepada WIRED.
Sebagai perbandingan, perusahaan China seperti Xiaomi telah mempublikasikan detail training run model mereka secara langsung, sementara peneliti Stanford juga melatih model Marin secara terbuka. Lambert dan Zick bertemu saat keduanya masih mahasiswa doktoral di UC Berkeley selama pandemi COVID-19. Gagasan Trillium lahir dari keprihatinan mereka atas kesenjangan yang semakin lebar antara riset AI industri dan dunia akademik.