Cerebras、最速AIアクセラレータCS-4を発表
मूल शीर्षक: Cerebras CS-4
यह क्यों महत्वपूर्ण है
超大規模モデルの推論コストと速度の課題に対し、GPU代替の新アーキテクチャが具体的な性能数値とともに提示されたことは業界に大きな影響を与える。
Cerebrasは新型AIアクセラレータ「CS-4」を発表した。GPU比最大30倍高速な推論性能を持ち、3基のWSE-3 Turboを搭載したラックスケールシステムで、今四半期より出荷開始予定。
Cerebrasは新世代AIアクセラレータ「CS-4」を正式発表した。同製品はGPUシステムと比較して最大30倍高速な推論を実現し、前世代CS-3比でワットあたり最大10倍のスループットを提供する。
CS-4は1システムに3基のWSE-3 Turbo(WSE-3T)を搭載し、各ウェーハは前世代比最大2倍の速度を発揮する。10兆パラメータを超える大規模モデルにおいても、毎秒1,000トークン以上の生成を実現し、ウェーハ間インターコネクト遅延を2マイクロ秒まで低減することでインタラクティブ性能を維持する。
アーキテクチャ面では、新たに「Cerebras Nexus Platform Architecture」を採用。Compute・Power・I/Oの3モジュール構成とし、「Wafer-Scale Backpack」と呼ぶ自己完結型ユニットを導入した。部品点数を50%削減し、展開時間を従来の数日から数時間に短縮している。
電力供給面では、プロセッサからわずか0.5mmの距離で電力を供給することで、従来GPU基板(約50mm)比で約100倍近接した電力供給を実現。基板レベルの電力損失をほぼ排除し、WSE-3Tへの供給電力を2倍に増加させた。
I/Oサブシステムも刷新され、帯域幅が2倍に拡大。ラック内外のウェーハをスイッチなしで接続できる設計となっている。また「Cerebras PowerRack」により電力・冷却・ネットワーク層を先行設置し、後からコンピュートを追加する分離展開が可能となった。初回出荷は今四半期中に開始される。