Entenda o pipeline de RAG
Veja por que os modelos precisam de recuperação, acompanhe uma pergunta pelo pipeline e saiba quando o RAG é a ferramenta certa.
- Explicar os problemas que o RAG resolve: conhecimento desatualizado, dados privados e respostas impossíveis de verificar
- Acompanhar as fases de indexação e de consulta de um sistema de RAG
- Escolher entre RAG, um prompt longo e fine-tuning
Um modelo de linguagem só sabe o que estava nos seus dados de treino. Pergunte a ele sobre a política de devolução da sua empresa, as notas de versão de ontem ou um documento que ele nunca viu, e ele vai dizer que não sabe ou - pior - inventar algo que soa certo.
A geração aumentada por recuperação (RAG, de Retrieval-Augmented Generation), nomeada num artigo de 2020 de Lewis et al., resolve isso como um aluno numa prova com consulta: primeiro busca as passagens relevantes, depois responde usando-as. Isso dá a você:
- conhecimento atualizado e privado sem retreinar o modelo,
- citações que as pessoas podem conferir,
- controle de acesso, porque você decide de quais documentos a pergunta de cada usuário pode se valer.
Experimente
Até 15 XPAcompanhe uma pergunta por um sistema de RAG
Acompanhe passo a passo o que acontece quando um funcionário faz uma pergunta ao bot da central de ajuda. Preveja as etapas marcadas.
Duas fases
- Indexação (com antecedência): carregar os documentos → limpá-los → dividi-los em chunks → indexar cada chunk para busca (palavras-chave e/ou embeddings), guardando a fonte e as permissões dele.
- Consulta (a cada pergunta): buscar no índice → escolher os melhores chunks → montar um prompt → gerar uma resposta com citações.
Cada etapa pode falhar por conta própria: a resposta nunca foi indexada, foi mal dividida, a busca não a encontrou ou o modelo a ignorou. Um bom engenheiro de RAG verifica cada etapa separadamente - que é o que o resto desta trilha ensina.
Experimente
Até 15 XPRAG, um prompt longo ou fine-tuning?
Escolha a melhor opção para cada situação.
“Um bot de suporte sobre 40.000 artigos de ajuda que mudam toda semana”
“Perguntas sobre um único contrato de 20 páginas”
“Sempre responder no tom formal da empresa e em formato JSON”
“Um assistente de RH em que cada funcionário só pode ver as políticas do próprio país”
“As respostas precisam apontar para o parágrafo exato da fonte”
Principais conclusões
O RAG recupera passagens relevantes e pede que o modelo responda a partir delas, com citações.
A indexação acontece com antecedência; a recuperação e a geração acontecem a cada pergunta.
Use RAG para conhecimento grande, que muda ou que tem permissões; conhecimento pequeno pode ir direto para o prompt.
Quiz da aula
6 perguntas · aprovação com 5 acertos · até 50 XP
Ao passar, você conclui a aula e mantém sua sequência. As perguntas erradas voltarão em sessões de revisão.
Pratique: escreva código em Python
Escreva código Python no editor e execute os testes com exemplos. O Python roda localmente no navegador usando WebAssembly.
Um recuperador minúsculo
A primeira linha é uma pergunta; cada linha seguinte é id|passage. Dê a cada passagem uma pontuação igual a quantas palavras distintas da pergunta (em minúsculas, obtidas com re.findall(r"[a-z0-9]+", ...), menos as palavras de STOP) aparecem entre as palavras dela.
Imprima id score para as passagens com pontuação acima de 0, da maior para a menor, com empates por id. (Repare em qual palavra não bate - os mecanismos de busca reais lidam com isso usando stemming ou embeddings.)
- Horário da biblioteca
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Monte um prompt fundamentado
A primeira linha é a pergunta; cada linha seguinte é source|text, na ordem do ranking. Imprima exatamente:
1Answer using only the sources below. If they don't contain the answer, say "I don't know".
2
3[1] (source) text
4[2] (source) text
5
6Question: QUESTION- Duas fontes
O Python é executado em um ambiente isolado no navegador, com limite de 60 segundos. O runtime é carregado pelo CDN do Pyodide; seu código permanece neste navegador.
Dúvidas sobre esta lição
Travou em algum ponto? Pergunte. Descobriu algo? Compartilhe. Explicar também é uma ótima forma de aprender.
Carregando publicações…