IBM CEO: ओपन वेट मॉडल सस्ते और असरदार
मूल शीर्षक: IBM CEO says open weight models are now good and cheap on-prem
यह क्यों महत्वपूर्ण है
Open weight models के सस्ते होने से on-prem AI infrastructure बाज़ार में IBM जैसी कंपनियों के लिए बड़ा अवसर खुल रहा है।
IBM के CEO Arvind Krishna ने Q3 earnings call में कहा कि open weight AI models अब frontier models की 90% क्षमता पर मात्र 10% लागत में उपलब्ध हैं, जिससे on-prem enterprise AI तेज़ी से बढ़ रही है।
Arvind Krishna ने निवेशकों को बताया कि 2024 में closed frontier models और open models के बीच benchmark score का अंतर 70 बनाम 20-30 था। 2025 के अंत तक यह अंतर घटकर 70 बनाम 50 हो गया। अब open weight models frontier models की तुलना में 10% से 25% token cost पर मिलते हैं, जबकि प्रभावशीलता 90% तक पहुँच गई है।
Krishna का तर्क सीधा है — email सारांश, अनुबंध जाँच, ग्राहक कॉल और email लिखना जैसे अधिकांश enterprise कार्य सस्ते open models से भी उतनी ही अच्छी तरह हो सकते हैं। उनके अनुसार केवल कुछ विशेष कार्यों के लिए महंगे frontier models जरूरी हैं।
CEO ने कहा कि दो-तीन racks में ही उपयोगी on-prem AI infrastructure बनाया जा सकता है, लेकिन इसे चलाना enterprises के लिए चुनौती है। kernel engineers की कमी, GPU network proximity, और model caching जैसी तकनीकी समस्याएँ बड़ी बाधा हैं। IBM इन्हीं समस्याओं को हल करने के लिए software विकसित कर रही है।