Se você trabalha com IA generativa, já ouviu falar em RAG. Mas o que é RAG, na prática — e por que ele virou o padrão para colocar modelos de linguagem para responder sobre os seus dados sem inventar? Neste guia eu explico o conceito e mostro como montar um assistente RAG no Azure AI Foundry.

O que é RAG?

RAG (Retrieval-Augmented Generation), ou “geração aumentada por recuperação”, é uma técnica que recupera trechos relevantes de uma base de conhecimento e os injeta no prompt do modelo antes de ele responder. Em vez de confiar apenas no que o modelo “decorou” no treinamento, você o ancora nos seus documentos — manuais, políticas, contratos, FAQs.

O resultado: respostas atualizadas, específicas do seu negócio e com muito menos alucinação (quando o modelo inventa algo plausível, mas falso).

Como o RAG funciona (em 4 etapas)

1. Ingestão: seus documentos são lidos (OCR/layout), quebrados em pedaços (chunks) e transformados em embeddings — vetores numéricos que representam o significado do texto.
2. Indexação: os embeddings vão para um índice vetorial (ex.: Azure AI Search). É o que permite buscar por significado, não por palavra exata.
3. Recuperação: a cada pergunta, o sistema busca os trechos mais parecidos com ela no índice.
4. Geração: esses trechos são anexados ao prompt e o modelo responde com base neles, citando a fonte.

Montando um RAG no Azure AI Foundry — passo a passo

1. Crie um Hub + Project no Azure AI Foundry e escolha, no catálogo, um modelo de linguagem (hoje já há opções mais novas e capazes que o GPT-4, como GPT-4.1, a família GPT-5 ou os modelos de raciocínio o3/o4-mini) e um modelo de embeddings (ex.: text-embedding-3-large).
2. Ingerir os documentos: use o Document Intelligence para extrair o texto dos PDFs, quebre em chunks e gere embeddings de cada um.
3. Indexar: guarde os embeddings no Azure AI Search como índice vetorial.
4. Conectar o modelo à busca: configure o padrão “chat com seus dados”, apontando o modelo para o índice.
5. Ancorar (grounding): instrua o modelo a responder somente com base nos trechos recuperados e a dizer “não sei” quando não houver base.
6. Avaliar: use os evaluators do Foundry (groundedness, relevância) antes de ir para produção.

Atualização 2026 O GPT-4o foi um marco, mas já ficou para trás: prefira modelos mais recentes do catálogo do Foundry — GPT-4.1 e GPT-5 para qualidade geral, ou o3/o4-mini quando precisar de raciocínio passo a passo e melhor aderência à instrução de “responder só com base nas fontes”. A troca do modelo é só um parâmetro; o resto da arquitetura RAG continua igual.

Boas práticas que separam um RAG bom de um ruim

• Chunking inteligente: pedaços nem grandes demais (diluem o contexto) nem pequenos demais (perdem sentido). Comece com 300–500 tokens e ajuste.
• Cite as fontes: mostre de qual documento veio a resposta — isso cria confiança e facilita auditoria.
• Governança (RAI): content filters, avaliação contínua e Managed Identity — nada de segredos no código.
• Meça groundedness: é a métrica que diz o quanto a resposta se apoia de fato nas fontes.

Perguntas frequentes (FAQ)

RAG substitui o fine-tuning?

Não necessariamente. RAG é ideal quando o conhecimento muda com frequência ou é específico da empresa; fine-tuning ajusta o comportamento/estilo do modelo. Muitas soluções usam os dois juntos.

RAG elimina totalmente a alucinação?

Não elimina, mas reduz muito. Combinado com grounding, citação de fontes e instrução firme (“responda só com base nos trechos”), o risco cai bastante.

Preciso do Azure para fazer RAG?

Não — o padrão é agnóstico. Mas o Azure AI Foundry facilita porque reúne ingestão, índice vetorial, modelo e avaliação no mesmo lugar.

Conclusão

RAG é hoje o caminho mais direto para levar IA generativa confiável para dentro da empresa. Com o Azure AI Foundry, você tem ingestão, índice vetorial, modelo e avaliação no mesmo lugar.

👉 Quer ver isso na prática? Acompanhe os vídeos no meu canal.