EBR: 345 गुना कम compute में बेहतर reasoning
मूल शीर्षक: Energy-Based Reasoners: 385x more efficient inference
यह क्यों महत्वपूर्ण है
बेहद कम parameters में उच्च accuracy inference cost को नाटकीय रूप से घटा सकती है, जो edge deployment और large-scale reasoning दोनों के लिए अहम है।
Duke, UIUC और Harvard के शोधकर्ताओं ने Energy-Based Reasoners (EBR) पेश किए। सिर्फ 1.8M parameters के साथ Sudoku-Extreme पर 99.9% accuracy, अगले सर्वश्रेष्ठ मॉडल से 345 गुना कम inference compute।
William Chen (Duke), Alexi Gladstone (UIUC), Zeyu Li (Duke), Heng Ji (UIUC) और Yilun Du (Harvard) ने मिलकर EBR आर्किटेक्चर तैयार किया है। यह मॉडल latent reasoning states पर एक energy function सीखता है और looped updates को gradient descent के रूप में तैयार करता है।
मौजूदा looped मॉडल — जैसे TRM, EqR, FPRM, GRAM — अपनी latent state को बिना किसी स्पष्ट मूल्यांकन के अपडेट करते हैं। EBR में energy function तीन काम करती है: state को score करना, gradient से refinement की दिशा तय करना, और gradient का छोटा होना stopping signal देता है। इसका मतलब है कि आसान puzzles कुछ ही steps में हल हो जाती हैं, कठिन ones ज़्यादा steps लेती हैं।
Test-time scaling के नतीजे उल्लेखनीय हैं: EBR, EqR की सर्वश्रेष्ठ accuracy तक पहुँचने में 7 गुना कम iterations और 43 गुना कम samples लेता है। N-Queens और Graph Coloring जैसे multi-solution benchmarks पर EBR ने state-of-the-art coverage हासिल की, साथ ही single-sample accuracy लगभग 100% बनाए रखी।
Training के लिए टीम ने exploration-based training तकनीक विकसित की जो energy landscape को व्यापक states पर बेहतर shape करती है। कुल मिलाकर 1.8M parameters वाला यह मॉडल 5-10M parameters के प्रतिस्पर्धियों को पीछे छोड़ता है।