# Roteamento de modelos e cascatas

> Cut My AI Spend — rank #3 of 10. Economia típica: 40–98% dependendo do mix de carga de trabalho. Esforço: Médio — exige lógica de roteamento e avaliações.

A maioria das requisições não precisa do seu modelo mais caro. O roteamento envia consultas simples para modelos baratos (Haiku, classe GPT-mini, Nova) e reserva os modelos de fronteira para as requisições que realmente precisam deles; designs em cascata tentam o barato primeiro e escalam apenas em caso de falha.
A pesquisa de cascatas no estilo FrugalGPT de Stanford demonstrou até 98% de redução de custo com qualidade equivalente, e times de produção rotineiramente reportam 40–70% ao classificar a complexidade da requisição de antemão. O porém: você precisa de uma forma de decidir (um classificador, heurísticas ou verificações de confiança) e de avaliações para provar que a qualidade se manteve.

## Como fazer

1. Segmente o tráfego por tipo de tarefa; identifique quais segmentos um modelo pequeno já resolve bem.
2. Adicione um roteador: regras heurísticas, um modelo classificador minúsculo ou um gateway de LLM com roteamento embutido.
3. Para cascatas, defina uma verificação de aceitação (validade de schema, confiança, modelo juiz) que dispare a escalada.
4. Rode avaliações A/B por segmento antes e depois; fique atento a regressões silenciosas de qualidade.

## Perguntas frequentes

### Qual a diferença entre roteamento e cascata?

O roteamento decide o modelo antes da chamada com base na requisição. A cascata chama o modelo barato primeiro e escala para um mais forte apenas quando a resposta falha em uma verificação. Cascatas economizam mais, mas adicionam latência nas requisições escaladas.


---
Canonical: https://cutmyaispend.com/pt/methods/model-routing
All methods: https://cutmyaispend.com/pt | JSON: https://cutmyaispend.com/api/methods.json