Conceito 2 min
Orquestrador / Routing
O gerente de tráfego: modelo caro para tarefa difícil, modelo barato para triagem.
Em uma frase
O componente ou agente que decide qual agente e qual modelo pega qual tarefa: modelo caro para tarefa difícil, modelo barato para triagem. É o gerente de tráfego da operação.
Antes
Tarefa chega
O que ele faz
Roteamento por dificuldade e custo
Depois
Modelo certo para o caso certo
Exemplo
Chega um lote de 400 relatórios. O orquestrador manda os completos para o modelo barato, os que têm campo faltando ou contradição para o modelo caro, e os de criança que saiu do programa direto para humano.
O custo médio por carta cai pela metade e ninguém percebe diferença no resultado.
Na prática
- Comece com regras explícitas em vez de deixar um modelo decidir. Roteamento é lógica de negócio.
- Meça o acerto do roteamento: quantas tarefas foram para o modelo caro sem precisar.
- Toda rota precisa de destino padrão, e o humano também conta como destino.
Como tangibilizar
Uma função de roteamento com regras explícitas: este tipo de caso vai para este modelo.