Spotifyが実践するAIコーディングの極意：Claude Codeのトークン消費を約90％削減した「適材適所」のモデル連携術

AIエージェントの運用コストを劇的に抑えるSpotifyの挑戦

AIを活用したコーディング支援ツールの普及が進む中、開発現場における「API利用コスト（トークン消費）」の抑制は極めて重要な課題となっています。特に、高度な推論能力を持つ大規模言語モデル（LLM）を頻繁に利用すると、消費されるトークン量とそれに伴うコストは跳ね上がります。

こうした課題に対し、音楽ストリーミング大手のSpotifyに所属するエンジニア、ディミトリ・マズマノフ氏が極めて効果的な解決策を報告しました。同氏は、大量のファイル読み込みを別の軽量モデルに委譲するテストにおいて、高性能モデルであるClaude側のトークン消費を平均約90％削減することに成功したと発表しました。このアプローチは、AIの能力を最大限に引きつつ、運用コストを劇的に抑える「適材適所」のモデル連携術として注目を集めています。

「Portal by Spotify」と「AiKA Modes」による賢いタスク振り分け

マズマノフ氏がこの劇的なトークン削減を実現するために利用したのが、Spotifyの社内開発者向けプラットフォーム「Portal by Spotify」に搭載されている「AiKA Modes」という機能です。この仕組みでは、すべての処理を単一の高性能モデルに任せるのではなく、タスクの性質に応じてモデルを使い分ける設計が採られています。

具体的には、AiKA Modesにおける日常的かつ大量のデータを扱う作業用モデルとして、Googleの「Gemini 2.5 Flash」が指定されています。Gemini 2.5 Flashは、高速な処理能力と広いコンテキストウィンドウを持ちながら、低コストで動作する点が特徴です。このモデルをフロントに立たせることで、コストの高いモデルの無駄遣いを防ぐ構造を構築しました。

プラグイン「shunt」とフック機能による強制的な制御

このモデルの使い分けを自動かつ強制的に行うため、システムには「shunt」と呼ばれるClaude Codeプラグインが導入されています。このプラグインは、Claude Codeの「PreToolUse」フックを利用して、実行されようとしている処理を事前にチェックする役割を担います。

具体的な制御フローとして、システム内に組み込まれた「check-file-size」フックが機能します。このフックは、デフォルトで350行を超えるファイルの読み込みが発生した際に、その処理をブロックする仕組みになっています。ブロックされた処理に対しては、Claudeに直接読み込ませるのではなく、大量のデータを効率的に処理できる「bulk-reader」を使うよう指示が出されます。これにより、巨大なソースコードをClaudeに直接読み込ませることで発生する、膨大なトークン消費を未然に防いでいます。

高度な推論タスクは「Claude」へ、役割分担の明確化

一方で、すべての作業を軽量モデルに移行するわけではありません。Spotifyの開発方針では、モデルごとの得意分野に応じた明確な役割分担が定義されています。

デバッグ作業やアーキテクチャ上の判断、安全性が重要なコードの作成など、高度な推論が必要な作業については、引き続きClaudeに任せる方針となっています。これにより、コードの品質や安全性を妥協することなく、単純なファイルの読み込みや定型的な処理といった「重いインプット作業」だけをGemini 2.5 Flashに委譲し、コストパフォーマンスを最大化しています。

開発現場にもたらす巨大なインパクト

この最適化手法の背景には、SpotifyにおけるAIコーディングエージェントの活発な利用実態があります。現在、Spotifyのバックグラウンドで動くコーディングエージェントは毎月650件以上のプルリクエストを生成しており、複雑なコード移行に必要なエンジニアの作業時間を最大90％短縮した。

AIエージェントの稼働率が上がれば上がるほど、トークン消費の効率化がもたらすコスト削減効果は累積的に大きくなります。Spotifyが実証した「PreToolUseフックによる処理の監視」と「軽量モデルへのタスク委譲」というアプローチは、今後のエンタープライズにおけるAIエージェント運用の標準的なベストプラクティスとなっていく可能性を秘めています。