Como Assistentes de IA Lembram: Contexto, Memória e RAG

Como Assistentes de IA Lembram: Contexto, Memória e RAG

Ontem você disse a um assistente: “Mantenha meu passeio abaixo de R$ 100.” Hoje ele lembra da preferência, mas não acha uma frase num PDF enviado mês passado. A memória falhou? Talvez, mas “lembrar” pode descrever caminhos diferentes, e cada um responde a uma pergunta distinta.

Vamos usar um passeio fictício para separar três mecanismos comuns: a conversa atual, uma preferência salva e documentos recuperados. Produtos combinam esses caminhos de modos diferentes. Este é um modelo mental, não uma descrição exata de todos os aplicativos.

Uma pergunta, três fontes possíveis

Você pergunta: “Ache um museu para sábado que caiba no orçamento e diga se o ingresso tem reembolso.” De onde podem vir as informações?

O modelo não tem um único arquivo de lembranças como uma pessoa. Ele gera a partir das informações disponíveis nesta resposta. Um detalhe ausente pode significar que o aplicativo não incluiu a mensagem antiga, não guardou a preferência, não encontrou o documento ou não tinha permissão para acessá-lo. Isso não significa necessariamente que o modelo “esqueceu” algo armazenado nele.

A conversa atual tem um limite

A janela de contexto é a quantidade de material que o modelo consegue usar numa solicitação: instruções, mensagens, trechos recuperados e espaço para a resposta. O aplicativo decide como manter o estado entre mensagens; pode incluir o histórico de novo, guardar objetos de conversa ou criar resumos. A documentação de estado da conversa da OpenAI descreve caminhos assim e o limite do contexto.

Se o chat crescer muito, o aplicativo pode ter de omitir, resumir ou recuperar material antigo. O comportamento exato depende do produto. Uma prática útil é repetir uma restrição importante — “até R$ 100 para duas pessoas” — quando ela realmente importa, especialmente depois de uma conversa longa. Antes de comprar, confira a resposta final em vez de presumir que a preferência apareceu em todas as etapas.

Memória salva é um recurso do aplicativo

Uma memória salva é informação que o aplicativo guarda para possivelmente usar em outras conversas, como uma preferência constante. É diferente de simplesmente ter texto no chat atual. No ChatGPT, por exemplo, a OpenAI diz que fontes e controles de memória podem variar por plano, região e espaço de trabalho; memórias salvas ficam separadas do histórico. O guia atual explica como examinar e corrigir o que o produto lembra.

Memória salva pode ajudar com “prefiro respostas curtas” ou um orçamento habitual. Ela não substitui a conferência de um fato que muda, como o preço do ingresso deste sábado. Uma preferência também pode estar ultrapassada ou não servir para uma tarefa nova. Pergunte ao assistente quais dados usou e veja as configurações do aplicativo se quiser corrigir ou retirar informações pessoais. Apagar uma conversa talvez não apague uma memória salva separadamente; confira os dois controles.

RAG busca uma fonte quando precisa

A geração aumentada por recuperação (RAG) procura em documentos e entrega trechos escolhidos ao modelo para uma resposta específica. No exemplo, pode encontrar a regra de reembolso. Isso não muda os pesos do modelo nem transforma todo PDF em memória permanente. É evidência para agora. A visão geral da Microsoft descreve o padrão de busca e geração.

A busca pode deixar de encontrar o trecho certo, trazer uma regra antiga ou mostrar texto que não sustenta a resposta. Um link é um caminho para conferência, não uma garantia. Veja o exemplo completo em O Que É RAG?.

Um diagnóstico rápido quando algo sumir

1. Faltou algo deste chat? Repita claramente e peça para incluir no plano final.
2. Faltou uma preferência de outro chat? Veja se o produto oferece memória na sua conta, se está ligada e o que foi guardado.
3. Faltou um fato de arquivo? Confirme que o arquivo está disponível nesta conversa e examine o trecho citado.
4. A resposta é importante? Confira preços, datas e regras na fonte original antes de agir.

Os três caminhos podem funcionar juntos, mas têm durações e consequências de privacidade diferentes. Saiba qual caminho forneceu cada fato. Para proteger dados pessoais, leia Como Proteger Sua Privacidade ao Usar IA.

Fontes e leitura adicional

• OpenAI: estado da conversa e janelas de contexto
• OpenAI Help: memória no ChatGPT
• Microsoft Learn: geração aumentada por recuperação