Kog、GPU推論を30倍高速化へ資金調達

원제: Kog is going deeper to squeeze more inference out of GPUs

왜 중요한가

既存GPU資産を活かすソフトウェア最適化は、企業のAI推論コストと速度ボトルネック解消に直結し、専用チップ不要の新たな市場を開拓しうる。

フランスのスタートアップKogは、既存のデータセンターGPU(AMD MI300X、Nvidia H200等)向けソフトウェア最適化で推論速度を最大30倍高速化すると発表。CEOのGaël Delalleau氏によると、技術プレビュー公開後に200件の具体的なビジネスリードを獲得し、シードラウンドを完了した。

KogはHacker Newsへの技術プレビュー投稿(2026年5月)で注目を集めた。同社の「Kog Inference Engine(KIE)」は、企業がすでに保有する標準的なデータセンターGPU上で、単一リクエストの高速デコーディングを実現することを目標としている。デモでは独自開発の小型モデル「Laneformer 2B」(パラメータ数約20億)を使い、1リクエストあたり毎秒3,000トークン(TPS)を達成。同モデルはオープンソース化されている。

CEOのDelalleau氏は、同じアプローチが大規模言語モデル(LLM)にも適用可能と主張。新世代GPUが持つメモリ帯域幅を十分に活用できていないとし、「GPUには明るい未来がある」と語った。

想定顧客はAIワークフローをビジネスに活用するユーザー層で、Claude Codeで数時間待つケースや、プロンプトからゲームやアプリを生成するプラットフォームが対象。Anthropicが「Fast Mode」に割増料金を設定していることからも、速度が収益に直結する構造が確認できる。

KogはソフトウェアによるGPU最適化という点でフランスのZMLと方向性が近いが、Delalleau氏はスタンフォード大学の研究室Hazy Researchに近い、より深いレベルのGPUアクセラレーションに注力していると説明。シードラウンドはVarsity VC(Delalleau氏の前職共同創業者Kamel Zeroual氏が設立)が共同リードした。

출처

techcrunch.com — 원문 읽기 →