LLM खरीदने से पहले speed जाँचें
मूल शीर्षक: Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware
यह क्यों महत्वपूर्ण है
hardware खरीद से पहले real-world LLM performance का अनुमान लगाना अब आम users के लिए भी संभव हुआ।
llmspeed.dev एक नया ओपन-सोर्स टूल है जो 30+ hardware पर local LLM की token generation speed का अनुमान देता है — खरीदारी से पहले।
developer Nico Robin ने llmspeed.dev लॉन्च किया है — एक browser-based simulator जो बताता है कि आपका चुना हुआ hardware किसी local LLM को कितनी तेज़ी से चलाएगा। साइट पर NVIDIA RTX 3060 से लेकर RTX 5090, AMD Radeon AI PRO R9700, Apple Mac Studio M5 Ultra (512GB तक), और cloud पर H100/H200 जैसे 30 से अधिक hardware विकल्प मौजूद हैं। model की तरफ से Llama 3.1 8B, Qwen 3, Gemma 4, DeepSeek V4 Flash, GPT-OSS 120B सहित दर्जनों विकल्प हैं। data का स्रोत r/LocalLLaMA, localscore.ai जैसे community benchmarks हैं। जहाँ measured data नहीं है, वहाँ specs से projection किया गया है — यह बात साइट पर साफ लिखी है। tool पूरी तरह open source है और GitHub पर उपलब्ध है। यह short prompt पर single device की speed दिखाता है।