Pular para o conteúdo
0%
0% da etapa
Abertura 2 min

A ordem importa

Os oito conceitos formam uma sequência de dependências. Cada um só faz sentido depois do anterior:

  1. Auto verificação: o agente confere antes de entregar. Sem isso, tudo que vem depois mede um sistema descuidado.
  2. Baseline humano: quanto acertamos hoje? Sem esse número, nenhum resultado do agente significa nada.
  3. Evals: os critérios e casos que medem, sempre igual, a cada mudança.
  4. Golden dataset: o gabarito contra o qual os evals medem.
  5. LLM-as-Judge: como medir o que é subjetivo sem desistir de medir.
  6. Regressão: por que a suíte inteira roda mesmo quando você mudou uma palavra.
  7. Determinismo vs Variância: onde a saída pode variar, e onde jamais.
  8. Monitoramento: o que o laboratório não pega, porque só aparece em produção.

Repare no formato: 1 e 2 acontecem antes de construir. De 3 a 7 é o laboratório. O 8 é a vida real, e o que ele encontra volta para o 4, fechando o ciclo. Com essa volta, cada erro melhora o sistema, em vez de ele apenas voltar ao normal.

Antes de construir

Baseline humano

Laboratório

Golden dataset
Suíte de evals
Roda a suíte a cada mudança

Produção

Monitoramento (traces)

todo caso real que falha vira caso no gabarito

O que a produção encontra volta para o gabarito. É essa volta que faz o sistema ficar permanentemente melhor a cada erro, em vez de apenas voltar ao normal.

Para discutir

Como isso aparece na sua empresa hoje? O que mudaria primeiro?