SpotifyのPortalでClaude Codeトークン消費を90%削減
मूल शीर्षक: Portal by Spotify cut my Claude Code token usage by 90%
यह क्यों महत्वपूर्ण है
フロンティアモデルの費用対効果を高めるモデルルーティングの実践的な実装事例として、AIコスト管理の参考になる。
Spotifyのエンジニアリングブログが、自社開発の「Portal by Spotify」に搭載された「AiKA Modes」機能を使い、Claude Codeのトークン使用量を90%削減した事例を公開した。ファイル読み込みやボイラープレートコード生成などの単純作業を、安価なGemini 2.5 Flashにルーティングすることで実現した。
Spotifyのエンジニアリングブログは、AI コーディングエージェントにおけるトークンコストの問題と、その解決策を詳細に公開した。
【問題の背景】
2028年までにAIコーディングのコストが開発者の平均給与を超えると予測されており、すでにエンジニアリングリーダーの4分の1が開発者1人あたり月額200〜500ドルのトークン費用を負担している。費用の多くは、ファイル読み込みやテスト生成など、推論をほとんど必要としない「I/O処理」に費やされているという。
【解決策：2つのモード】
Portal by SpotifyのAiKA Modes機能を活用し、2つのモードを作成した。「bulk-reader」は複数の大規模ファイルを読み込んで質問に回答する処理を担い、「code-writer」はテストやコンフィグなどの予測可能なボイラープレートコードを生成する。両モードともGemini 2.5 Flashをワーカーモデルとして使用し、temperature 0.2に設定されている。
AiKA Modesは宣言型エージェントとして動作し、AWS Lambdaのようなエフェメラルなランタイム上で実行される。インフラ管理、APIキー、長時間稼働サーバーは不要。Portal CLIまたはAPIから呼び出し可能で、社内公開または非公開の設定ができる。
【ルーティングの実装】
当初はCLAUDE.mdにルーティングルールを記述していたが、Claudeがルールを無視するケースがあった。現在はClaude Codeプラグイン「shunt」を使用し、PreToolUseフックによってファイル読み込みサイズを自動チェックし、条件を満たした場合にPortal経由でGemini 2.5 Flashへデリゲートする仕組みを採用している。