Gemma 4 26B、13年前のXeonでGPUなし動作
Original : Running Gemma 4 26B at 5 tokens/sec on a 13-year-old Xeon with no GPU
Pourquoi c'est important
古い企業向けハードウェアでも最新LLMが実用速度で動くことを実証した意義がある。
Ryan Findleyは、2013年製のデュアルXeon E5-2690 v2搭載のHP StoreVirtualサーバー（GPU非搭載、300ドル以下）でGoogle製オープンモデルGemma 4 26B-A4Bを約5.2トークン/秒で動作させることに成功した。
Ryan Findley（Neomind Labs）は2026年6月8日、GPU不要・約300ドル以下の中古サーバーでGemma 4 26Bモデルを動作させた手順を公開した。使用機材はHP StoreVirtualを流用したもので、デュアルXeon E5-2690 v2（Ivy Bridge世代、2013年）、DDR3メモリ、AVX1命令セットのみという構成。ik_llama.cppフォークをベースにしたが、同フォークのカーネルはAVX2・FMA3を前提とするため、Ivy Bridge世代のCPUではそのまま起動不可だった。Findleyは Claude（AI）を活用してC++のホットパスを分析・修正し、AVX2非対応環境でもフォールバックできるよう書き直した。結果としてQ8_0量子化モデルで約5.2トークン/秒（プロンプト評価時は約16トークン/秒）を達成。パッチはikawrakow/ik_llama.cpp#2138としてプルリクエスト中。この事例はAIエージェントが低レベルのマイクロアーキテクチャ問題を解決できることを示した実例として注目される。