仏スタートアップZMLがAI推論高速化の無料ソフトを公開
Judul asli: Hot French startup ZML releases free product to speed inference across lots of AI chips
Mengapa Ini Penting
AIコスト削減とチップ多様化の流れを加速させ、ベンダーロックイン解消に向けた業界インフラとして注目される。
フランスのAIスタートアップZMLが、Nvidia・AMD・Google TPU・Apple Metal・Intel Arcなど複数チップ対応のLLM推論サーバー「ZML/LLMD」を無料公開した。
フランスのAIスタートアップZMLは、複数のオープンソース大規模言語モデルを多様なチップ上で最大速度で動作させるLLM推論サーバー「ZML/LLMD」を無料で公開した。対応チップはNvidia、AMD、Google TPU、Apple Metal、Intel Arcなど。創業者のSteeve Morin氏はTechCrunchに対し、「既存のサイロを打破し、さまざまなチップをAIユースケースで最大速度、時にはそれ以上で活用できるようにすることが目標」と述べた。AIコスト増大への懸念が高まる中、企業やクラウドプロバイダーが低コストまたは省エネのチップを組み合わせて利用できる選択肢を提供する狙いがある。競合にはBaseten（評価額130億ドル）、vLLM開発者によるInferact、SGLang商用版のRadixArkなどがある。ZMLはパリを拠点に従業員20名の小規模チームで、Zenly（Snapchatが9桁台で買収）の元VP of EngineeringであるMorin氏の実績を背景に、20VCやXavier NielのKima Venturesなど複数のVCから2,000万ドルを調達済み。同社はチューリング賞受賞者のYann LeCunからも支持を受けている。