# LLMゲートウェイと支出トラッキングツール

> Cut My AI Spend — rank #10 of 10. 想定削減率: 手法2〜9を実現する運用レイヤー. 導入コスト: 低 — 基本的にはプロキシの差し替えのみ.

ゲートウェイ（LiteLLM、Portkey、OpenRouter）は、複数プロバイダを1つのAPIで扱えるようにするとともに、他のすべての手法に必要な制御ポイント — キャッシュ、ルーティング、フォールバック、予算管理、レート制限、リクエスト単位のコストログ — を提供します。支出トラッキングレイヤー（Helicone — Mintlifyによる買収後は現在メンテナンスのみ — nOps、各プロバイダ標準のダッシュボード）が可視性を補います。
ゲートウェイ単体での削減効果はわずかです。しかし、キャッシュ・ルーティング・コスト配賦の実施ポイントとして機能することで、コスト削減は一過性の施策ではなく、仕組みとして定着します。

## 実践手順

1. すべてのLLMトラフィックを1つのゲートウェイに集約し、プロバイダSDKの直接呼び出しはコードレビューで禁止します。
2. 初日からコストメタデータ付きのリクエストログを有効化します。
3. プロバイダフォールバック（耐障害性）と予算上限（暴走防止）を有効化します。
4. キャッシュとルーティングのポリシーは、アプリごとではなくゲートウェイ側に集約します。

## よくある質問

### どのゲートウェイを選べばよいですか？

エンジニアリング主導のチームにはLiteLLM（オープンソース、セルフホスト、100以上のプロバイダ対応）。マネージドのガードレールとセマンティックキャッシュが欲しいならPortkey。多数のモデルベンダーの請求を1本化したいならOpenRouterです。詳細は当サイトのツールレビューをご覧ください。


---
Canonical: https://cutmyaispend.com/ja/methods/llm-gateways
All methods: https://cutmyaispend.com/ja | JSON: https://cutmyaispend.com/api/methods.json