Peneliti Argumen Teori Ilmiah Deep Learning Sedang Muncul
Judul asli: There Will Be a Scientific Theory of Deep Learning [R]
Mengapa Ini Penting
Upaya teoritis ini dapat memajukan pemahaman ilmiah AI dan meningkatkan prediktabilitas sistem neural network
14 peneliti dari berbagai institusi menerbitkan makalah di arXiv yang berargumen bahwa teori ilmiah menyeluruh tentang deep learning sedang berkembang, mengidentifikasi lima bidang penelitian utama yang mengarah pada 'learning mechanics'.
Para peneliti mengidentifikasi lima bidang kerja yang menunjukkan munculnya teori deep learning: pengaturan ideal yang dapat dipecahkan, batas-batas yang dapat dilacak, hukum matematika sederhana, teori hyperparameter, dan perilaku universal. Mereka mengusulkan istilah 'learning mechanics' untuk menggambarkan teori ini, yang berfokus pada dinamika proses pelatihan dan prediksi kuantitatif yang dapat difalsiflkasi. Makalah 41 halaman ini juga membahas hubungan dengan interpretabilitas mekanistik dan menjawab argumen yang menentang kemungkinan teori fundamental dalam deep learning.