Inicio / Puesto #10
Gateways LLM y herramientas de seguimiento de gasto
Un gateway (LiteLLM, Portkey, OpenRouter) te da una sola API para todos los proveedores más los puntos de control que necesita cada uno de los otros métodos: caché, enrutamiento, fallbacks, presupuestos, límites de tasa y registro de costos por solicitud. Las capas de seguimiento de gasto (Helicone — ahora solo en mantenimiento tras su adquisición por Mintlify — nOps, los tableros nativos de cada proveedor) añaden la visibilidad.
Por sí solo, un gateway ahorra poco; como punto de aplicación del caché, el enrutamiento y la atribución, es la forma de que los ahorros se vuelvan sistemáticos en lugar de puntuales.
Cómo hacerlo
- Enruta todo el tráfico LLM por un solo gateway; prohíbe las llamadas directas a los SDK de los proveedores en el code review.
- Activa el registro de solicitudes con metadatos de costo desde el primer día.
- Habilita fallbacks entre proveedores (resiliencia) y topes de presupuesto (protección contra gastos desbocados).
- Aplica las políticas de caché y enrutamiento en el gateway, no app por app.
Preguntas frecuentes
¿Qué gateway debería elegir?
LiteLLM (código abierto, auto-hospedado, más de 100 proveedores) para equipos con perfil de ingeniería; Portkey para guardrails gestionados y caché semántico; OpenRouter cuando quieres una sola factura para muchos proveedores de modelos. Consulta nuestras reseñas de herramientas para más detalles.
Herramientas para este método
LiteLLM
The default self-hosted gateway: one OpenAI-compatible proxy across 100+ providers with budgets, caching, routing, fallbacks, and …
Portkey
Managed gateway with the strongest built-in semantic caching, plus guardrails, routing, and cost analytics. The low-ops route to t…
OpenRouter
One API and one bill across hundreds of models from every major lab — the fastest way to arbitrage the model price war and A/B che…
Helicone
Long the default open-source LLM cost dashboard. Acquired by Mintlify in March 2026 and now maintenance-only — existing deployment…