Model lokal bisa baca bobot neural network
Judul asli: Qwen 3.8 27B on my laptop can interpret model weights, too
Mengapa Ini Penting
Kemampuan LLM membaca bobot model membuka arah baru riset interpretabilitas AI.
Qwen 3.8 27B yang berjalan di laptop Simon Willison terbukti mampu menginterpretasi bobot mentah model neural network, menyusul paper 'Sparks of Weight-Space Programming' yang dirilis 2 November 2026.
Paper berjudul 'Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights' oleh Rikiya Takehi, Jayden Teoh, Alex Zhang, dan Omar Khattab memperkenalkan istilah Weight-Space Programming—kemampuan LLM menganalisis dan memodifikasi bobot model AI langsung dari angka floating point, tanpa menjalankan kode.
Temuan utama paper ini berpusat pada GPT-6 Astra: model frontier tersebut mampu mengenali fungsi sebuah jaringan hanya dari bobotnya, serta memperbaiki bobot Qwen3.5-0.8B dengan mengubah hanya 0,016% parameter. Hasilnya signifikan—skor MATH-500 naik dari 7,9% menjadi 48,1%, dan IFEval meningkat 3x lipat.
Simon Willison kemudian menguji salah satu eksperimen dari paper tersebut: memberi prompt berisi bobot jaringan RL yang dilatih bermain salah satu dari empat game klasik (Breakout, Pong, Pac-Man, Freeway), lalu meminta model menebak game mana tanpa alat bantu apapun. Qwen 3.8 27B di laptopnya berhasil melakukan ini.
Namun paper ini tidak lepas dari kritik. Matthew Honnibal (penulis spaCy) menyebut paper ini menyesatkan karena mencampurkan dua kemampuan berbeda: interpretasi bobot tanpa tools, dan modifikasi bobot dengan bantuan kode. Sean Goedecke juga membedah contoh perbaikan Qwen3.5-0.8B sebagai langkah yang sebenarnya juga dilakukan peneliti ML manusia biasa.