Como fazer a IA responder com os documentos da empresa sem mandar os dados para fora?

O caminho é um RAG privado: a IA não decora os seus documentos, ela busca os trechos certos numa base que fica no seu servidor e responde a partir deles, citando de onde tirou. Com o modelo de linguagem, a busca e os documentos rodando dentro da empresa, nenhum arquivo precisa ir para um serviço de nuvem.

Você já perguntou alguma coisa da sua empresa para um chatbot e recebeu uma resposta bonita, segura e errada? Isso acontece porque o modelo não conhece a sua política de troca, o seu contrato padrão nem o manual do seu produto. Este texto explica o que é RAG, como ele funciona dentro de casa e o que planejamos num levantamento real de IA local para empresa.

RAG é a sigla em inglês para geração aumentada por recuperação. O nome vem de um artigo de 2020 de Patrick Lewis e colegas, que juntou dois tipos de memória: a que fica dentro do modelo, aprendida no treino, e uma memória externa, um índice de documentos consultado na hora da pergunta.

O próprio artigo aponta o problema que isso resolve: modelos grandes guardam conhecimento nos seus parâmetros, mas a capacidade deles de acessar e usar esse conhecimento com precisão ainda é limitada, e mostrar a origem das respostas e atualizar o que sabem continuavam problemas em aberto. Os autores relatam que, com a busca, o modelo gerou texto mais específico, variado e factual do que a versão sem busca.

Para quem tem um negócio, a tradução é direta. Em vez de esperar que a IA saiba tudo, você dá a ela uma biblioteca e a obriga a consultar antes de responder.

Em 1981, William Gibson publicou na revista Omni o conto Johnny Mnemonic, depois incluído na coletânea Burning Chrome. Johnny é um traficante de dados que fez uma cirurgia para ter um sistema de armazenamento implantado na cabeça. Ele carrega informação sensível demais para circular pela rede, trancada por uma senha que só o destinatário conhece, e nem ele mesmo consegue ler o que leva.

O RAG privado é o contrário do Johnny. O modelo não carrega os seus documentos dentro dele. Eles ficam guardados num cofre que é seu, e o modelo só vê os poucos trechos que a busca entrega para aquela pergunta, daquela pessoa, com a permissão dela. Se amanhã a política mudar, você troca o documento, e não o modelo.

São quatro peças, e todas podem rodar num servidor da empresa.

Os documentos. Contratos, manuais, políticas, catálogos e respostas aprovadas são divididos em trechos curtos.

O modelo de embeddings. Ele transforma cada trecho num vetor, uma lista de números que representa o sentido do texto, para que a busca ache "prazo de devolução" mesmo quando o documento diz "direito de arrependimento". Um exemplo aberto é o Qwen3-Embedding-0.6B, com licença Apache 2.0, suporte a mais de 100 idiomas e contexto de 32 mil tokens, segundo a página do modelo.

O banco vetorial. Guarda os vetores e faz a busca. O Qdrant é um banco vetorial de código aberto com licença Apache 2.0. Para quem já usa Postgres, o pgvector acrescenta busca por similaridade ao próprio banco, e os vetores ficam junto com o resto dos dados.

O modelo de linguagem. Recebe a pergunta e os trechos encontrados, escreve a resposta e indica a fonte. Pode ser um modelo aberto rodando localmente, como mostramos no texto sobre Ollama, vLLM ou llama.cpp.

Muitas vezes entra ainda um reranker, um segundo modelo que reordena os trechos encontrados e deixa só os mais relevantes, como o Qwen3-Reranker-0.6B.

Permissão por setor, de verdade. Se o financeiro e o RH usam a mesma IA, a regra tem que estar na base, e não só na instrução do modelo. No nosso levantamento, a regra escrita foi coleções vetoriais separadas por grupo, nunca uma coleção única com filtro só no prompt.

Documento também ataca. A OWASP chama de injeção indireta de prompt o caso em que o modelo recebe conteúdo de fontes externas, como sites ou arquivos, e esse conteúdo muda o comportamento dele de forma inesperada. Num RAG, um PDF com uma instrução escondida pode virar ordem. Por isso o plano incluía testes de injeção pelo documento e de vazamento entre setores antes de liberar para todos.

Dado sensível fica de fora. Documentos com dados de saúde, como atestados no RH, não entram na base. A recomendação foi colocar no RH só documentos de política, sem dados pessoais.

Número vem da ferramenta, não do texto. Preço, estoque e status de pedido mudam toda hora. Esses dados devem vir de uma consulta somente leitura ao sistema da empresa, e não de um PDF antigo que a busca encontrou.

Essa é a dúvida mais comum, e a resposta costuma ser começar pelo RAG. Na nossa recomendação técnica, a conclusão foi que fine-tuning, o ajuste fino do modelo, não deve ser o primeiro passo: o que muda com frequência, como preço, estoque e política, vai em RAG e ferramentas, porque atualiza na hora. O ajuste fino serve melhor para tom de voz e formato de resposta, e só entra depois, se a avaliação mostrar uma lacuna.

Ensinar fatos por treino tem outro problema prático: cada mudança exige treinar de novo, avaliar e versionar. Com RAG, basta trocar o documento.

Em outubro de 2026, fizemos um levantamento técnico de IA local para uma empresa com um servidor de uma única RTX 5090 e assistentes internos para quatro setores. O desenho tinha um assistente por setor, todos com o mesmo modelo base, cada um com a sua instrução, a sua base de conhecimento restrita ao grupo e as suas ferramentas.

Para a busca, a escolha foi o Qwen3-Embedding-0.6B com o reranker da mesma família e o Qdrant como banco vetorial, com o pgvector como alternativa para quem prefere um Postgres só. Para manter a resposta rápida com muita gente usando junto, a recomendação foi limitar o RAG aos cinco melhores trechos de cerca de 500 tokens cada. O plano também previa um conjunto de perguntas reais por setor, com resposta de referência e fonte, para medir se a IA acerta antes de abrir para a empresa inteira.

RAG elimina as alucinações? Não. Ele reduz o risco porque a resposta passa a se apoiar em trechos reais, mas a IA ainda pode ler errado. Por isso a resposta deve mostrar a fonte, e dados críticos devem ser conferidos por regra ou por ferramenta.

Preciso de GPU para ter RAG privado? A busca e o modelo de embeddings são leves. O que pede hardware é o modelo de linguagem, e o tamanho dele depende de quantas pessoas vão usar ao mesmo tempo.

Posso usar os PDFs e planilhas que já tenho? Pode. O trabalho maior costuma ser organizar: tirar versões antigas, separar o que cada setor pode ver e deixar de fora o que tem dado sensível.

A DOUVRAS Labs monta assistentes de IA com base de conhecimento de origem declarada, testes, guardrails, fluxo para um humano quando a IA não sabe e critérios claros de desligamento. É o que oferecemos em agentes e assistentes de IA, em IA local para escritórios jurídicos e contábeis, onde o processamento fica dentro do escritório, e em automação e integrações para ligar a IA aos sistemas que você já usa.

E na sua empresa, quando alguém pergunta qual é a política vigente, a resposta vem do documento certo ou da memória de quem está mais perto?

Douglas Henrique, DOUVRAS Labs.

Lewis, P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS, 2020. arxiv.org

IBM Technology. What is Retrieval-Augmented Generation (RAG)? YouTube. youtube.com

Qwen. Qwen3-Embedding-0.6B e Qwen3-Reranker-0.6B. Hugging Face. huggingface.co

Qdrant. Vector Database and Vector Search Engine. github.com

pgvector. Open-source vector similarity search for Postgres. github.com

OWASP GenAI Security Project. LLM01: Prompt Injection. genai.owasp.org

Gibson, William. Johnny Mnemonic. Omni, maio de 1981. Incluído em Burning Chrome, 1986. wikipedia.org