125Mパラメータmodelでピアノ自動補完、iPhone上で動作
मूल शीर्षक: Show HN: I trained a 125M model to autocomplete piano on-device
यह क्यों महत्वपूर्ण है
On-device AI music generation का यह प्रयोग edge AI और creative tools के क्षेत्र में नई संभावनाओं को दर्शाता है।
Simon Edwardsson ने 125M-parameter transformer model को train किया, जो iPhone 15 पर लगभग 108 notes/सेकंड की गति से real-time में piano performances को autocomplete करता है। यह app RollTab नाम से free में उपलब्ध है।
Simon Edwardsson ने करीब एक साल की research और 14 experiments के बाद एक 125M-parameter transformer model तैयार किया है, जो MIDI piano के input को real-time में autocomplete कर सकता है। इस project का मुख्य उद्देश्य था — GitHub Copilot की तरह piano के लिए AI-based autocomplete तैयार करना।
मॉडल की performance में सबसे बड़ा सुधार तीन क्षेत्रों में आया: सही MIDI representation का चुनाव, training data की aggressive cleaning, और DPO (Direct Preference Optimization) post-training।
MIDI representation के लिए Edwardsson ने कई तरीके आज़माए। शुरुआती NOTE_ON/NOTE_OFF आधारित representation में model अक्सर notes को अधूरा छोड़ देता था। फिर [NOTE, PITCH, VELOCITY, DURATION] format आज़माया, लेकिन यह धीमा था — एक musical note के लिए चार autoregressive steps लगते थे। अंततः उन्होंने NOTE(pitch, delta_onset, duration, velocity) format को अपनाया जो अधिक कुशल साबित हुआ।
App का नाम RollTab है, जो iPhone और iPad उपयोगकर्ताओं के लिए free में उपलब्ध है। Demo में Pokémon Pallet Town, Final Fantasy VI Terra's Theme, और Für Elise जैसे tracks के audio samples दिखाए गए हैं।