仏スタートアップZMLがAI推論高速化ソフトを無料公開
原題: Hot French startup ZML releases free product to speed inference across lots of AI chips
なぜ重要か
推論コスト増大とベンダーロックイン問題が業界全体の課題となる中、マルチチップ対応の推論ソフトは新興チップメーカーの普及を加速し得る。
フランスのAIスタートアップZMLは2026年7月8日、複数の種類のAIチップ上でオープンソースLLMの推論を高速実行できるLLM推論サーバー「ZML/LLMD」を無料で公開した。Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなど多様なチップに対応し、ベンダーロックインの解消と推論コスト削減を目的としている。
ZMLは、チューリング賞受賞者のYann LeCunが支持するパリ拠点のAIスタートアップで、今回「ZML/LLMD」と名付けたLLM推論サーバーを無償公開した。同ソフトウェアはNvidia、AMD、Google TPU、Apple Metal、Intel Arcなど幅広いチップ上で各種オープンソース大規模言語モデルを動作させ、それぞれのチップが持つ最大速度、場合によってはそれ以上の速度で推論処理を実行できると同社は説明する。
創業者のSteeve Morinは、AIの推論処理(プロンプトの処理)の最適化がモデルの学習を上回る重要性を持つようになったにもかかわらず、ソフトウェアやアーキテクチャの障壁によってベンダーロックインが生じていると指摘。ZMLはエンタープライズやクラウド事業者が低コストまたは省エネのチップを組み合わせて利用できる選択肢を提供することを目指す。
MorinはAxelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud、VSORAといった欧州の新興AIチップメーカーとの協業にも言及。現時点でNvidiaとは良好な関係を維持しており、同社が推論分野への対応を進めていることも評価している。
競合としてはBaseten(直近評価額130億ドル)、vLLM開発チームによるInferact、SGLangを商用展開するRadixArkなどが存在する。しかしMorinは「シリコンの共同設計にまで踏み込んでいる」とし、より広い範囲での競争優位性を主張する。
ZMLの従業員は20名と少数精鋭で、Morin自身はSnapchatが9桁ドルで買収したZenlyでVP of Engineeringを務めた実績を持つ。同社はHarry Stebbingsの20VC、Xavier NielのKima Ventures、LocalGlobeなどのベンチャーファームから総額2,000万ドルを調達済みで、今後もさらなるリリースを予定している。