トークン利用料が経営陣のAI投資に試練
原題: ‘Pretty Crazy’ Token Usage Is Testing Bosses’ Bet on AI
なぜ重要か
生成AI導入企業の経営課題が従来のソフトウェアコストから利用量管理へシフト。市場が急成長する中、トークノミクスの効率化が競争力を左右する要素として業界全体に影響を及ぼす可能性がある。
大手IT企業でのAI導入に伴い、「トークノミクス」と呼ばれる利用料管理が業界の重大課題として浮上している。ソフトウェア企業8x8はClaudeの導入で年間500万ドル超のコスト削減を実現している一方、RBC、Cisco、Amplitudeなどは急増するトークン利用料に直面。2024年4月～5月の決算説明会で約300社がトークン関連の懸念を表明した。
生成AI導入企業の経営陣が新たな課題に直面している。トークン（AIモデルが分析・生成するコンテンツ量の単位）の利用料急増への対応だ。
ソフトウェア企業8x8の事例では、社員がAnthropicのClaudeでメール作成、顧客フィードバック分析、コード記述などを実施。過去18カ月で数十種類のソフトウェア・教育ツール購読をキャンセルし、年間約500万ドルのコスト削減を達成。Claudeの年間利用料はこれを大きく下回っているという。同社のジョエル・ニーブ最高経営革新・事業運営責任者は、社員のAI採用を推進するにつれ収支が逆転する可能性を認識しながらも、「現在は大幅な黒字」と述べた。
一方、他企業では深刻な状況が報告されている。カナダロイヤルバンク（RBC）のCEOは過去6カ月でトークン使用量が500％増加したことを開示。Ciscoの チャック・ロビンス会長兼CEOは社員の3分の1が毎日内部AIチャットボットを利用し「トークン使用量が非常に増加している」と述べた。分析ソフト企業Amplitudeの一部エンジニアは月数千ドル以上のトークン費用を負担。Box のアーロン・レバイン会長兼CEOはトークン予算検討が「最重要かつ最も熱い議論」になったとコメント。
データプロバイダー AlphaStreet のトランスクリプト分析によると、2024年4月～5月の決算説明会で約300社がトークン関連の懸念を表明。前年同月は93社にとどまり、わずか1年で急増している。企業はトークン利用状況監視システムの開発・購入を検討し、最適なモデル選択を模索。採用拡大か予算増加かのバランス判断に苦慮している。