Vercel AI Gateway の Sessions ビューで、キャッシュが効かない会話を見つける ※モデル・料金
AI Gateway 経由でコーディングエージェントを使っているなら、ログの Sessions ビューで「キャッシュ命中率が低い会話」を開き、途中でプロバイダーが切り替わっていないかを見る。
同じ会話を同じプロバイダーに送り続ける（セッション親和性）と、前のターンのプロンプトがそのプロバイダーのキャッシュに残っているので安くなる。途中で別のプロバイダーに飛ぶとキャッシュを作り直すことになる。@shtse8 の試算では、Opus 5.5 でキャッシュ読み込みが100万トークンあたり$0.20、新規書き込みが$5なので、15万トークンの Claude Code セッションが途中でプロバイダーを替えると、そのターンは約3セントではなく約75セントかかる。
手順
- AI Gateway のログで Sessions ビューを開く。行ごとに、会話を動かしたクライアント（Claude Code・Codex・Cursor など）、コスト、モデルとプロバイダー、入力のうちキャッシュから読めた割合が出る
- 1つ開くと、キャッシュ命中率、所要時間、ターンごとのモデル・時間・受けたプロバイダーが並ぶ
- ターン数・クライアント・モデル・プロバイダー・認証・コストで絞り込む。1ターンだけの会話は既定で隠れているので、見たいときは最小ターン数の絞り込みを外す
- 自分で会話の単位を決めたいときは、毎回同じ
sessionIdをproviderOptions.gatewayに入れるか、同じx-session-idヘッダーを付ける。付けない要求は会話冒頭の指紋でまとめられ、fingerprinted sessions として表示される
注意点
- セッション親和性はテキスト／チャットの要求で既定オン
- 料金は記事作成時点の値。最新は各社の料金ページで確認
- キャッシュが外れる原因の切り分けは Claude API: キャッシュ診断で「どこが変わってキャッシュが外れたか」を特定する も参照