エージェント向け自己最適化推論エンジン「Magnitude」公開
原題: Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agents
なぜ重要か
ローカル推論の速度がクラウドAPI依存からの脱却を左右する今、ハードウェア自動最適化は開発者の実運用コストを直接下げる技術として注目度が高い。
YC S25採択のMagnitudeは、エージェント向けオープンソース推論エンジンをGitHubで公開した。ユーザーのハードウェアに合わせてカーネルを自動コンパイル・チューニングし、llama.cppと比較して最大2倍の推論速度を実現する。Apple Silicon、NVIDIA、AMD、CPUのみの環境でも動作し、macOS・Windows・Linuxに対応する。
Magnitude（YC S25）は、ローカルで動作するオープンソースの推論エンジンをGitHubで公開した。最大の特徴は「自己最適化」にある。インストール時にユーザーのハードウェア構成を検出し、各デバイス向けにカーネルをコンパイル・チューニングする仕組みを採用。これにより、一般的なローカル推論エンジンとして広く使われているllama.cppと比べて最大2倍の処理速度を達成すると主張する。
対応ハードウェアはApple Silicon、NVIDIA GPU、AMD GPU、そしてGPUを持たないCPUのみの環境まで幅広い。デスクトップアプリとしてmacOS・Windows・Linuxの3プラットフォームに対応しており、ワンクリックでPi、OpenCode、Hermes、Codexなど主要なAIエージェントと接続できる設計になっている。
リポジトリはGitHub上で5,700以上のスターを獲得し（フォーク数は397）、公開直後から大きな注目を集めている。コードはApache-2.0ライセンスで公開されており、コミット数は1,057に上る。
エージェント向けにチューニングされた推論エンジンという点が他との差別化ポイントだ。コーディングエージェントや自律型AIが長いコンテキストを繰り返し処理する用途を想定しており、汎用の推論サーバーとは異なるアプローチを取る。ローカル環境でのAI処理需要が高まるなか、クラウドAPIへの依存を下げたいユーザー層に直接訴求するプロダクトといえる。