CUDA: Nvidia को सॉफ्टवेयर कंपनी बनाता है
मूल शीर्षक: CUDA Proves Nvidia Is a Software Company
यह क्यों महत्वपूर्ण है
AI industry में Nvidia का dominance उसके hardware नहीं बल्कि CUDA software platform पर आधारित है।
Nvidia के CEO Jensen Huang ने CUDA को कंपनी का सबसे कीमती 'खजाना' बताया। CUDA एक सॉफ्टवेयर प्लेटफॉर्म है जो GPU की parallel computing क्षमताओं को AI कार्यों के लिए अनुकूलित करता है।
CUDA (Compute Unified Device Architecture) मूल रूप से Stanford के PhD छात्र Ian Buck द्वारा विकसित किया गया था, जिन्होंने 2000 के दशक की शुरुआत में GPU के gaming उपयोग से प्रेरित होकर इसे सामान्य high-performance computing के लिए रूपांतरित किया। Buck ने पहले Brook नामक programming language बनाई, फिर Nvidia में शामिल होकर John Nickolls के साथ CUDA का विकास किया। CUDA एक programming language नहीं बल्कि एक 'प्लेटफॉर्म' है जो AI के लिए software libraries का nested bundle बन गया है। यह parallelization के माध्यम से काम करता है - जहाँ single core 9×9 multiplication table को 81 operations में करता है, वहीं GPU के 9 cores इसे parallel में कर सकते हैं। Modern GPUs commutativity जैसी mathematical properties को समझकर duplicate work से बच सकते हैं। जब एक training run की लागत $100 million होती है, तो हर optimization महत्वपूर्ण है।