ローカルLLM速度を購入前に体感できるツール
原題: Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware
なぜ重要か
ローカルLLM需要の拡大に伴い、ハードウェア選定の失敗コストが増す中、購入前検証ツールの存在意義は大きい。
開発者のNico Robin氏が公開した「llmspeed.dev」は、ローカルLLMを実行する前にハードウェアごとの推論速度を体感できる無料Webツールだ。NVIDIA RTX 5090やApple Silicon、AMD製GPUなど30種類以上のデバイスと、Qwen・Gemma・Llamaなど主要モデルの組み合わせを網羅。r/LocalLLaMAやlocalscore.aiなどコミュニティベンチマークの実測値をもとに速度を提示する。
「llmspeed.dev」は、高額なGPUやAPUを購入する前にローカルLLMの実行速度感を確認できるWebシミュレーターだ。ソースコードはGitHubで公開されており、誰でも利用・貢献できる。
対応ハードウェアはNVIDIA RTX 3060からRTX 5090、DGX Spark、さらにApple Mac Studio M5 Ultra（512GB）やMacBook Pro M5 Max、AMD Ryzen AI Max+ 395（Strix Halo）、Intel Arc Pro B70など幅広い。クラウド向けのH100・H200も掲載されており、オンプレミスとクラウドの比較にも使える。
対応モデルはQwen 3シリーズ、Gemma 4、Llama 3.1、DeepSeek V4/V4.1 Flash、GLM-5.3、Nemotronなど人気のオープンモデルを中心に揃える。表示される数値は「短いプロンプト・単一デバイス」という条件下での推定値で、実測データが存在しない組み合わせはスペックや類似構成から推算している。
データソースはRedditのr/LocalLLaMAスレッドやlocalscore.aiなどコミュニティが収集したベンチマーク結果で、推定値が含まれる点はサイト上で明示されている。CPUのみ（Ryzen 9 9950X・96GB DDR5）での動作速度も掲載されており、GPU非搭載環境の参考にもなる。
Hacker Newsの「Show HN」投稿として公開され、ローカルLLMへの関心が高いコミュニティで注目を集めた。ハードウェア購入の意思決定を補助するという明確な用途を持つシンプルなツールながら、実測値と推定値を組み合わせてカバレッジを広げる設計が特徴だ。