Trillium Labs: खुले में हाई-रिस्क AI रिसर्च
मूल शीर्षक: These AI Experts Want to Do High-Stakes Research Out in the Open
यह क्यों महत्वपूर्ण है
खुले AI शोध बनाम बंद frontier labs की यह बहस सुरक्षा, जवाबदेही और वैश्विक AI विकास की दिशा तय कर सकती है।
Nathan Lambert और Tom Zick ने nonprofit Trillium Labs की स्थापना की है, जो recursive self-improvement (RSI) और AI agents जैसे संवेदनशील क्षेत्रों पर शोध को पारदर्शी तरीके से प्रकाशित करेगी, ताकि बाहरी वैज्ञानिक भी इसे देख और दोहरा सकें।
बड़े AI labs जैसे OpenAI और Anthropic अपने शक्तिशाली models को app या API के ज़रिए सीमित पहुँच में रखते हैं — model कैसे बना, कैसे व्यवहार करता है, यह जानकारी अक्सर सार्वजनिक नहीं होती। Lambert और Zick इस रणनीति को गलत मानते हैं।
Lambert का कहना है कि frontier AI labs की गोपनीयता वैज्ञानिक समुदाय की आलोचनात्मक जाँच और नए दृष्टिकोणों की संभावना को कम करती है। उनके अनुसार, "पिछले कुछ हज़ार वर्षों में मानवता के पास scientific method नाम का औज़ार रहा है — लेकिन frontier AI का मौजूदा बंद रास्ता हमें पीछे धकेल रहा है।"
दूसरी तरफ, कुछ कंपनियाँ — खासकर चीन की — अपेक्षाकृत शक्तिशाली models खुले तौर पर जारी करती हैं। Xiaomi ने हाल ही में अपने एक model की training run की लाइव जानकारी प्रकाशित की। Stanford के researchers भी AI model Marin को खुले तौर पर pretrain कर रहे हैं।
Lambert पहले Ai2 और Hugging Face में काम कर चुके हैं और American Truly Open Models initiative के संस्थापक भी हैं। Zick ने Harvard University में काम किया और Charles Schwab के लिए responsible AI नीतियाँ बनाने में मदद की। दोनों COVID-19 महामारी के दौरान UC Berkeley में PhD छात्र के रूप में Zoom पर मिले थे।
Trillium Labs का मुख्य लक्ष्य यह है कि industry और academic AI research के बीच जो खाई बन गई है, उसे पाटा जाए — Lambert के मुताबिक professors और students अक्सर इस अलगाव का शिकार होते हैं।