Conceito 2 min
Context Window
O recurso mais escasso da operação agêntica.
Em uma frase
O limite de texto que o modelo consegue enxergar de uma vez. É o recurso mais escasso da operação agêntica: tudo que entra (instruções, arquivos, histórico) disputa esse espaço.
Antes
Tudo que poderia entrar
O que ele faz
A janela: o que cabe de uma vez
Depois
O que o agente efetivamente sabe
Exemplo
O relatório de campo da Ana tem 2 páginas. O histórico dos três anos anteriores tem 40. As políticas da organização, 15. Tudo isso disputa a mesma janela, e o que não couber o agente simplesmente não sabe. Por isso a escolha do que cortar, que parece técnica, é uma decisão de negócio.
Na prática
- Meça o consumo real por execução antes de otimizar qualquer coisa.
- Separe o que é fixo (instrução, política) do que é variável (o caso). O fixo vira candidato a cache.
- Defina e escreva o que é cortado primeiro quando estourar, para não depender de improviso.
Como tangibilizar
Meça: quantos tokens sua execução consome, e quanto disso é instrução, dado e histórico. Um print resolve.
Conecta com