Cerebras、最速AIアクセラレータCS-4を発表
Judul asli: Cerebras CS-4
Mengapa Ini Penting
超大規模モデル向け推論市場でGPUに対する競争優位を示す製品であり、AIインフラ競争に影響を与える。
Cerebrasは新型AIアクセラレータ「CS-4」を発表。GPUと比較して最大30倍高速な推論性能を実現し、今四半期に初回出荷を開始する。
Cerebrasは、同社の新世代AIアクセラレータ「CS-4」を発表した。CS-4は3基のWSE-3 Turboウェーハを搭載したラックスケールソリューションで、GPU системと比較して最大30倍高速な推論性能を実現する。前世代のCS-3と比べ、ウェーハあたりのスループットは最大10倍向上している。アーキテクチャ面では、ウェーハ間インターコネクトのレイテンシを2マイクロ秒まで低減し、パラメータ数10兆超の大規模モデルにおいても毎秒1,000トークン以上の生成を可能にする。新設計の「Wafer-Scale Backpack」はウェーハ、電力変換、液冷システム、高速I/O、制御エレクトロニクスを1つのコンパクトな3Dパッケージに統合し、コンポーネント数を50%削減。従来のGPUボードと比較して電力供給経路を約100分の1（0.5mm）に短縮することで、ボードレベルの電力損失をほぼ解消した。また新プラットフォーム「Cerebras Nexus」では電力・冷却・ネットワーク層を先行設置し、その後コンピュートを追加できる分離設計を採用。データセンターへの導入期間を数日から数時間に短縮するとしている。初回出荷は今四半期中に開始予定。