Como criar um sistema RAG com dados da empresa

A geração aumentada por recuperação (RAG) fornece ao modelo generativo contexto relevante das fontes da empresa antes de gerar uma resposta.

O RAG não se limita a carregar documentos numa base de dados vetorial. Prepare em conjunto os dados, o controlo de acesso, a qualidade da recuperação, as citações das fontes e a avaliação.

Inventário de Fonte

Comece por inventariar políticas internas, procedimentos, documentos técnicos, informações de produtos, conteúdos de suporte e contratos.

Documentos não correntes ou conflitantes afetam diretamente a qualidade da recuperação.

Análise estrutural de documentos

Ao extrair texto de PDF, Word, HTML ou outros formatos, preserve tanto quanto possível os títulos, tabelas, listas e estrutura das secções.

Divisão em segmentos (chunking)

Segmentos demasiado pequenos podem perder contexto; demasiado grandes, podem reduzir a precisão da recuperação. Considere secções, títulos e estrutura semântica.

Embeddings e indexação

Os segmentos podem ser convertidos em vetores de embedding e adicionados a um índice de pesquisa. Os metadados podem guardar fonte, secção, data, departamento e nível de acesso.

Recuperação híbrida

Combine pesquisa semântica com pesquisa lexical por palavras-chave ou BM25, em vez de depender apenas de pesquisa vetorial semântica.

Reordenação (reranking)

Os candidatos no primeiro resultado de recuperação podem ser reordenados com uma segunda camada de ranking e somente o contexto mais relevante pode ser enviado para o modelo.

Citação e proveniência

O utilizador deve poder ver em que documento a resposta se baseia. O nome da fonte, seção e, se necessário, ligação direta do documento podem ser mostrados.

Avaliação dos RAG

Recall da recuperação
Precisão do contexto
Correção da resposta
Fundamentação nas fontes
Afirmação sem fundamento
Exatidão da citação
Latência

Avaliar sistemas IA para produção

Antes da produção, prepare conjuntos de avaliação separados para o inventário de fontes, a análise de documentos e a divisão em segmentos. Não decida apenas com base em algumas demonstrações bem-sucedidas: crie casos de sucesso, falha e limite a partir de tarefas reais. Defina o comportamento esperado, os limites de erro aceitáveis e a necessidade de intervenção humana para cada exemplo, permitindo comparar alterações do modelo, da recuperação e do processo no mesmo conjunto de testes.

A monitorização deve combinar métricas de aplicação e qualidade IA. Acompanhe latência, custo de tokens ou modelo, erros de ferramentas e timeouts API no lado técnico; fontes incorretas, afirmações sem suporte, correções, intervenções humanas e sucesso das tarefas no lado da qualidade. Avaliações de regressão devem verificar se mudanças de modelo ou prompt preservam a qualidade anterior.

Segurança dos dados e governação

Trate dados enviados ao modelo, fontes recuperadas, conversas e saídas de ferramentas como fluxos separados. Não inclua desnecessariamente dados pessoais ou comercialmente sensíveis em prompts; limite acessos por perfil. Avalie modelo, fornecedor, locais de processamento e retenção de registos com os processos de proteção e segurança. A camada IA não deve criar um canal paralelo que contorne autorizações existentes.

Lista de controlo IA em produção

O caso de utilização e a métrica de sucesso estão definidos?
Existe um conjunto de dados de avaliação?
As versões de prompt, modelo e recuperação são acompanhadas?
As permissões dos utilizadores são aplicadas na camada de IA?
As chamadas de ferramentas usam validação de esquema?
Há aprovação humana para ações arriscadas?
A latência e os custos do modelo são medidos?
As respostas erradas e as correções dos utilizadores são classificadas?

Taxonomia de falhas e lançamento controlado

Agrupar todas as falhas como «a IA respondeu mal» dificulta a análise da causa. Separe problemas de recuperação, contexto em falta, ferramenta errada, bloqueios de autorização, alucinações, tempos limite, esquemas inválidos e pedidos ambíguos. Identificar a área responsável — o inventário de fontes, a análise de documentos e a divisão em segmentos — permite melhorar o componente correto, em vez de apenas trocar o modelo. As falhas reais enriquecem o conjunto de avaliação ao longo do tempo.

Um modelo, prompt, configuração de recuperação ou processo de agente não precisa de chegar a todos em simultâneo. Comece por um grupo limitado ou tarefas de baixo risco e compare qualidade, latência, custos e encaminhamentos humanos com a versão anterior. Interrompa a implementação se as métricas críticas piorarem e permita regressar à versão anterior. Assim, as alterações passam a seguir um processo de lançamento versionado e mensurável.

Guardrails de custo e utilização

A produção IA exige gestão de recursos além da qualidade. Meça tokens, chamadas de modelo, ferramentas, volume recuperado e duração por utilizador ou tarefa. Ciclos inesperados, contexto demasiado longo e chamadas repetidas aumentam custos e latência. Limites de passos, timeouts, contexto, políticas de modelos alternativos e quotas individuais dão controlo operacional. Interprete o custo com o sucesso e otimize processos baratos mas ineficazes ou caros e desnecessariamente complexos.

Registar tipos de falha separadamente
Guardar versões de prompt, modelo e processo
Testar versões com grupo controlado
Definir previamente critérios de rollback
Limite os passos de ferramentas e o tempo de processamento
Meça custos de tokens e do modelo por tarefa
Integrar falhas de produção nas avaliações

A abordagem IA e Automação da B10 Digital Agency

A B10 Digital Agency trata IA empresarial não apenas como integração de modelo, mas como sistema de produção que reúne dados, RAG, ferramentas, processos de agentes, segurança, controlo humano e avaliação mensurável.

Perguntas frequentes

O RAG é o mesmo que fine-tuning?

Não. O RAG recupera informação externa ao responder; o fine-tuning altera o comportamento ou conhecimento do modelo através de treino.

Deve cada documento ser adicionado ao banco de dados de vetores?

Não. Selecione documentos pela atualização, permissões de acesso e utilidade.

A RAG resolve inteiramente o problema da alucinação?

Não. Pode reduzir o risco, mas a avaliação e os limites das respostas continuam necessários.

Por que o filtro de metadados é importante?

Permite filtrar fontes adequadas na recuperação por data, departamento ou permissões do utilizador.

Tornar a IA empresarial mensurável

Conheça a abordagem da B10 Digital Agency para integrar assistentes, RAG, agentes e automação nos sistemas existentes de forma segura e mensurável.

Conhecer Soluções de IA e Automação →