LLMSpeed: Simulator Kecepatan LLM Lokal Sebelum Beli GPU
Judul asli: Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware
Mengapa Ini Penting
Referensi nyata kecepatan LLM lokal masih langka; alat ini mengisi celah keputusan beli hardware AI.
LLMSpeed.dev hadir sebagai simulator interaktif yang memperlihatkan estimasi kecepatan inferensi LLM lokal pada berbagai hardware, dari RTX 3060 hingga H200, sebelum pengguna membeli perangkat.
LLMSpeed adalah alat open source yang membantu pengguna memperkirakan seberapa cepat model AI lokal akan berjalan di hardware tertentu — sebelum mereka mengeluarkan uang untuk membeli GPU atau chip baru. Situs ini mencakup lebih dari 30 pilihan hardware, mulai dari NVIDIA RTX 3060 12GB hingga Mac Studio M5 Ultra 512GB, AMD Ryzen AI Max+ 395, hingga cloud seperti H100 dan H200. Di sisi model, tersedia estimasi untuk Llama 3.1 8B, Qwen 3, Gemma 4, DeepSeek V4, dan sejumlah model lainnya. Data kecepatan bersumber dari benchmark komunitas di r/LocalLLaMA dan localscore.ai, sebagian lagi diproyeksikan dari spesifikasi hardware serupa. Semua estimasi didasarkan pada skenario prompt pendek pada satu perangkat tunggal. Kode dan data tersedia di GitHub (github.com/nicorobinreal/llmspeed), memungkinkan komunitas berkontribusi data benchmark baru. Simulator ini tidak memerlukan instalasi — hanya butuh JavaScript aktif di browser.