Google ने Nvidia के PyTorch किले पर हमला बोला
मूल शीर्षक: Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers
यह क्यों महत्वपूर्ण है
Nvidia की GPU पर AI industry की निर्भरता को सीधी चुनौती देने की यह अब तक की सबसे ठोस तकनीकी कोशिश है।
Google ने मंगलवार को TorchTPU को open source जारी किया, जो PyTorch apps को बिना code बदले Google के TPU chips और Google Cloud पर चलाने देता है। Amazon ने एक दिन पहले TorchNeuron से यही कदम उठाया था।
PyTorch, जिसे Meta ने 2016 में Facebook के रूप में बनाया था, आज लगभग 85% AI apps के निर्माण, training और deployment में इस्तेमाल होता है। इसकी कई विशेषताएँ शुरू से ही Nvidia के GPU के लिए बनाई गई थीं, क्योंकि उस दौर में Nvidia ही AI research का मानक hardware था। 2022 में Meta ने PyTorch को Linux Foundation को सौंप दिया।
Google के TorchTPU से developers अपने मौजूदा PyTorch apps को सिर्फ एक configuration बदलकर — बिना कोई rewriting के — Google के Tensor Processing Units (TPUs) पर ले जा सकते हैं। Google ने Meta, Hugging Face, vLLM निर्माता Inferact, SGLang निर्माता RadixArk जैसी कंपनियों के साथ मिलकर काम किया, ताकि TorchTPU इन लोकप्रिय tools के साथ सहज रूप से काम करे। इसके अलावा Google ने TPU agent suite भी लॉन्च किया है जो migration के दौरान errors ठीक करने में मदद करता है, और LiteRT tool को PyTorch apps के साथ बेहतर काम करने के लिए अपडेट किया।
Amazon ने सोमवार को TorchNeuron जारी किया, जो PyTorch apps को उसके Trainium chip और AWS पर बिना rewriting के पोर्ट करता है। Amazon ने यह भी बताया कि वह main PyTorch project में ऐसा code submit कर रहा है जो इसे Nvidia chips से अलग कर हर hardware के लिए खुला बनाएगा।