LLM अपने Weights खुद बदल सकता है

मूल शीर्षक: Language Models Can Rewrite Their Own Weights

यह क्यों महत्वपूर्ण है

यह शोध training और inference के बीच की पारंपरिक सीमा को चुनौती देता है और recursive self-improvement की दिशा में एक ठोस प्रयोगात्मक कदम है।

arxiv पर प्रकाशित शोध में 11 शोधकर्ताओं ने दिखाया कि एक 27B open model बिना gradient और retraining के अपने weights खुद rewrite कर 6.6 अंक अधिक सटीक हो गया।

Jiajun Fan और 10 अन्य शोधकर्ताओं ने 'self-rewriting' नामक एक नई विधि प्रस्तुत की है जिसमें एक language model अपने weights को खुद के reasoning से संपादित करता है — न कोई gradient, न कोई training run। शोध में 27B parameter वाले एक open model को उसके अपने weights, graded answers और खुद को run करने की क्षमता दी गई। मॉडल ने अपनी विफलताओं का विश्लेषण किया और संबंधित weights को rewrite किया, जिससे उन problems पर accuracy 6.6 points बढ़ी जो उसने पहले कभी नहीं देखी थीं। आठ लगातार sessions में accuracy केवल बढ़ती रही। एक और प्रयोग में एक 'क्षतिग्रस्त' copy को — जो लगभग कुछ भी हल नहीं कर पा रही थी — original weights पढ़े बिना 80% से अधिक accuracy तक वापस लाया गया। शोधकर्ताओं के अनुसार यह क्षमता scale के साथ उभरती है: छोटे models या तो कोई edit नहीं करते या खुद को तोड़ लेते हैं, केवल सबसे बड़ा model सफलतापूर्वक खुद को सुधारता और repair करता है। Test-time scaling के विपरीत यह gain weights में स्थायी रूप से लिखी जाती है, और training के विपरीत केवल forward passes चलते हैं।

स्रोत

arxiv.org — मूल लेख पढ़ें →