RAG / Retrieval
Como o conhecimento institucional vira input do agente sem retreinar modelo.
Em uma frase
Retrieval-Augmented Generation: buscar conhecimento relevante (docs, histórico, base de conhecimento) e injetar no contexto antes do modelo responder. É como o conhecimento institucional vira input do agente sem retreinar modelo.
Antes
Pergunta ou tarefa do agente
O que ele faz
Busca o que é relevante
Depois
Contexto injetado antes de responder
Exemplo
Antes de escrever a carta da Ana, o sistema busca três coisas: o relatório deste ano, o resumo dos dois anteriores, e o trecho da política sobre menção a irmãos. Só isso entra no contexto, e os outros 40 mil documentos da organização ficam de fora.
O agente responde com conhecimento institucional sem que ninguém tenha treinado modelo nenhum.
O erro comum
Achar que RAG conserta conhecimento ruim. Se a base tem três versões contraditórias da mesma política, o RAG vai trazer uma delas, e o agente vai responder com total convicção. Uma boa recuperação só encontra mais rápido o que está na base, inclusive a bagunça.
Na prática
- Filtre antes de buscar. Busca semântica solta num acervo grande traz o documento errado com convicção.
- Guarde a fonte junto com o trecho: sem citação, não dá para verificar.
- Meça a recuperação separado da geração. Resposta ruim quase sempre é recuperação ruim.
Como tangibilizar
Um índice do acervo mais uma função de busca que o agente chama antes de responder.
Conecta com