600 Eksperimen Ungkap Kekuatan Model Dunia JEPA
Judul asli: After 600 experiments, here's what I discovered about JEPA world models
Mengapa Ini Penting
Arsitektur JEPA LeCun terbukti efisien tanpa perlu generasi piksel mahal.
Haddy Alchaer menjalankan 600 eksperimen pada LeWM, model dunia berbasis JEPA milik LeCun, dan menemukan empat metode perencanaan baru tanpa pelatihan ulang.
Dalam riset pribadi selama beberapa bulan, Haddy Alchaer menguji LeWM — model dunia JEPA yang dirilis tim Yann LeCun tahun ini — pada benchmark Push-T, simulasi robot mendorong balok berbentuk T ke posisi target. Temuan pertama mengejutkan: mengganti predictor LeWM dengan fisika sempurna dari simulator tidak meningkatkan performa secara signifikan. Vanilla LeWM berhasil 78% pada tugas long-horizon, sementara versi fisika nyata hanya 77%. Artinya, prediksi LeWM sudah setara fisika sempurna untuk jalur yang sudah dikenalnya.
Masalah utama bukan akurasi prediksi, melainkan cara perencanaan digunakan. Tanpa melatih ulang model sama sekali, Alchaer menemukan empat metode perencanaan baru. Dua metode pertama menaikkan tingkat keberhasilan tugas long-horizon dari 22% menjadi 85% — setara dengan perencana yang diberi subgoal ideal dari demonstrasi ahli. Dua metode lainnya memperluas kemampuan ke goal yang lebih sulit. Satu perubahan tunggal pada cara goal dihitung berhasil menaikkan tingkat keberhasilan hingga 60 poin, tiga kali lipat dampak penggantian fisika sempurna. LeWM sendiri akurat untuk perencanaan 25 langkah (89,7%), tetapi kesulitan pada 75 langkah karena subgoal yang tidak tepat, bukan karena kesalahan prediksi yang menumpuk.