Cómo crear un sistema RAG con datos de la empresa
La generación aumentada por recuperación (RAG) aporta al modelo generativo contexto relevante de las fuentes de la empresa antes de generar una respuesta.
¿Qué contiene este artículo?
La generación aumentada por recuperación (RAG) aporta al modelo generativo contexto relevante de las fuentes de la empresa antes de generar una respuesta.
RAG no se limita a cargar documentos en una base vectorial. Diseñe conjuntamente la preparación de datos, el control de acceso, la calidad de recuperación, las citas de fuentes y la evaluación.
Inventario de las fuentes
Empiece por inventariar políticas internas, procedimientos, documentos técnicos, información de productos, contenidos de soporte y contratos.
Los documentos no actuales o contradictorios afectan directamente a la calidad de la recuperación.
Análisis estructural de documentos
Al extraer texto de PDF, Word, HTML u otros formatos, preserve en lo posible los títulos, tablas, listas y estructura de secciones.
División en fragmentos (chunking)
Los fragmentos demasiado pequeños pueden perder contexto; los demasiado grandes pueden reducir la precisión de recuperación. Considere secciones, títulos y estructura semántica.
Embeddings e indexación
Los fragmentos pueden convertirse en vectores de embedding y añadirse a un índice. Los metadatos pueden conservar fuente, sección, fecha, departamento y nivel de acceso.
Recuperación híbrida
Combine la búsqueda semántica con búsqueda léxica por palabras clave o BM25, en lugar de depender solo de la búsqueda vectorial semántica.
Reordenación (reranking)
Los candidatos en el primer resultado de recuperación pueden ser reordenados con una segunda capa de ranking y sólo el contexto más relevante puede ser enviado al modelo.
Citación y procedencia
El usuario debe poder ver en qué documento se basa la respuesta. Se puede mostrar el nombre del origen, la sección y, si es necesario, el enlace directo del documento.
Evaluación de los RAG
- Recall de recuperación
- Precisión del contexto
- Corrección de la respuesta
- Fundamentación en las fuentes
- Afirmación sin respaldo
- Precisión de la cita
- Latencia
Evaluar un sistema IA para producción
Antes de producción, prepare conjuntos de evaluación separados para el inventario de fuentes, el análisis de documentos y la división en fragmentos. No decida solo a partir de unas demostraciones correctas: cree casos de éxito, fallos y casos límite basados en tareas reales. Defina para cada ejemplo el comportamiento esperado, los márgenes de error aceptables y la necesidad de intervención humana, para comparar cambios del modelo, recuperación y proceso con el mismo conjunto de pruebas.
La monitorización debe combinar métricas de aplicación y calidad IA. Siga latencia, coste de tokens o modelo, errores de herramientas y timeouts API técnicamente; fuentes incorrectas, afirmaciones sin respaldo, correcciones, intervenciones humanas y éxito de tareas para la calidad. Evaluaciones de regresión deben comprobar que cambios de modelo o prompt mantienen la calidad anterior.
Seguridad de datos y gobernanza
Trate datos enviados al modelo, fuentes recuperadas, conversaciones y resultados de herramientas como flujos separados. No incluya datos personales o comercialmente sensibles innecesarios en prompts; limite acceso por rol. Evalúe modelo, proveedor, lugares de tratamiento y conservación de registros junto con protección de datos y seguridad. La capa IA no debe crear un acceso paralelo que eluda autorizaciones existentes.
Lista IA de producción
- ¿Están definidos el caso de uso y la métrica de éxito?
- ¿Existe un conjunto de datos de evaluación?
- ¿Se siguen versiones de prompt, modelo y recuperación?
- ¿Se aplican los permisos de usuarios en la capa de IA?
- ¿Las llamadas a herramientas usan validación de esquemas?
- ¿Hay aprobación humana para acciones arriesgadas?
- ¿Se miden la latencia y los costes del modelo?
- ¿Se clasifican las respuestas erróneas y las correcciones de usuarios?
Taxonomía de fallos y despliegue controlado
Agrupar todos los fallos como «la IA respondió mal» dificulta analizar las causas. Separe problemas de recuperación, contexto insuficiente, herramienta incorrecta, bloqueos de autorización, alucinaciones, tiempos de espera agotados, esquemas inválidos y peticiones ambiguas. Identificar el área responsable — el inventario de fuentes, el análisis de documentos y la división en fragmentos — permite mejorar el componente adecuado en lugar de sustituir el modelo sin más. Los fallos reales enriquecen progresivamente el conjunto de evaluación.
Un modelo, prompt, ajuste de recuperación o proceso de agente no tiene que llegar a todos a la vez. Empiece con un grupo limitado o tareas de bajo riesgo y compare calidad, latencia, costes y derivaciones a personas con la versión anterior. Detenga el despliegue si empeoran las métricas críticas y permita volver a la versión anterior. Así, los cambios de prompts pasan a un proceso de publicación versionado y medible.
Guardrails de coste y uso
La IA de producción exige gestionar recursos además de calidad. Mida tokens, llamadas de modelo, herramientas, volumen recuperado y duración por usuario o tarea. Bucles inesperados, contextos largos y llamadas repetidas elevan costes y latencia. Límites de pasos, timeouts, contexto, políticas de modelos alternativos y cuotas individuales proporcionan control. Interprete costes junto con éxito y optimice procesos baratos pero ineficaces o caros e innecesariamente complejos.
- Registrar fallos por categorías
- Guardar versiones de prompt, modelo y proceso
- Probar versiones con grupo controlado
- Definir criterios de rollback previamente
- Limite los pasos de herramientas y el tiempo de procesamiento
- Mida los costes de tokens y del modelo por tarea
- Integrar fallos de producción en las evaluaciones
El enfoque IA y Automatización de B10 Digital Agency
B10 Digital Agency trata IA empresarial no como mera integración, sino como sistema de producción que combina datos, RAG, herramientas, procesos de agentes, seguridad, control humano y evaluación medible.
- Inteligencia Artificial & Soluciones de Automatización
- Integraciones de API y sistema
- Análisis de datos y escucha social
- Software a medida y aplicaciones móviles
- KVKK & Asesoría de Cumplimiento Digital
Preguntas frecuentes
¿RAG es lo mismo que fine-tuning?
No. RAG recupera información externa al responder; el fine-tuning modifica el comportamiento o conocimiento del modelo mediante entrenamiento.
¿Debería añadirse cada documento a la base de datos de vectores?
No. Seleccione documentos según actualización, permisos de acceso y utilidad.
¿Resolve RAG por completo el problema de la alucinación?
No. Puede reducir el riesgo, pero la evaluación y los límites de respuesta siguen siendo necesarios.
¿Por qué es importante el filtro de metadatos?
Permite filtrar las fuentes adecuadas durante la recuperación por fecha, departamento o permisos del usuario.
Hacer medible la IA empresarial
Conozca el enfoque de B10 Digital Agency para integrar asistentes, RAG, agentes y automatización de forma segura y medible en sistemas existentes.
Fuentes y documentos relacionados
Estos documentos sirven de referencia para los métodos y las reglas tratados en este artículo.