Abertura 2 min
A ordem importa
Os oito conceitos formam uma sequência de dependências. Cada um só faz sentido depois do anterior:
- Auto verificação: o agente confere antes de entregar. Sem isso, tudo que vem depois mede um sistema descuidado.
- Baseline humano: quanto acertamos hoje? Sem esse número, nenhum resultado do agente significa nada.
- Evals: os critérios e casos que medem, sempre igual, a cada mudança.
- Golden dataset: o gabarito contra o qual os evals medem.
- LLM-as-Judge: como medir o que é subjetivo sem desistir de medir.
- Regressão: por que a suíte inteira roda mesmo quando você mudou uma palavra.
- Determinismo vs Variância: onde a saída pode variar, e onde jamais.
- Monitoramento: o que o laboratório não pega, porque só aparece em produção.
Repare no formato: 1 e 2 acontecem antes de construir. De 3 a 7 é o laboratório. O 8 é a vida real, e o que ele encontra volta para o 4, fechando o ciclo. Com essa volta, cada erro melhora o sistema, em vez de ele apenas voltar ao normal.
Antes de construir
Baseline humano
Laboratório
Golden dataset
Suíte de evals
Roda a suíte a cada mudança
Produção
Monitoramento (traces)
↺todo caso real que falha vira caso no gabarito
