RAG para empresas: preguntar a tu documentación interna y obtener la respuesta con la fuente

Casi siempre RAG, y el motivo es práctico. El fine-tuning ajusta el comportamiento de un modelo —su estilo, su formato de salida, su forma de clasificar—, pero no es un buen mecanismo para meterle conocimiento actualizable: cada vez que cambia un procedimiento habría que volver a entrenar, y el modelo seguiría sin poder citar de dónde ha sacado la respuesta.

RAG separa el conocimiento del modelo. La información vive en tus documentos, se actualiza al actualizarlos y cada respuesta es verificable. Además permite aplicar permisos por usuario, algo imposible con un modelo entrenado: lo que entra en los pesos lo ve cualquiera que use el modelo.

El fine-tuning tiene sentido en casos concretos —redactar siempre con un formato muy específico, clasificar según una taxonomía propia con muchos ejemplos— y entonces se combina con RAG, no lo sustituye.

Es el punto donde más proyectos se paran, y con razón. La solución correcta es que el sistema consulte con la identidad de la persona que pregunta y que el índice conserve los permisos del sistema de origen, de modo que la recuperación sólo devuelva fragmentos a los que ese usuario ya tenía acceso. Si un comercial no puede abrir la carpeta de nóminas, tampoco puede obtener una respuesta basada en ella.

El atajo peligroso es indexarlo todo con una cuenta de servicio que lo ve todo y confiar en que el modelo se comporte. Eso no es control de acceso: es una filtración esperando a ocurrir, porque basta con la pregunta adecuada.

Hay un efecto secundario incómodo que conviene anticipar: al implantar RAG aparecen los permisos mal puestos que llevaban años sin molestar a nadie. Carpetas abiertas a toda la organización, documentos compartidos por enlace, herencias rotas. No es un problema que cree la IA, pero sí uno que destapa.

Es el factor que más determina el resultado, por encima del modelo que se use. Si un procedimiento tiene tres versiones distintas en tres carpetas, el sistema recuperará alguna de ellas y responderá con seguridad a partir de una información equivocada.

No hace falta ordenarlo todo antes de empezar, y de hecho no lo recomendamos: es un proyecto que no termina nunca. Lo razonable es acotar un área con documentación razonablemente fiable, marcar qué documentos son la versión vigente y ampliar desde ahí. El propio uso indica dónde están los huecos, porque las preguntas sin buena respuesta señalan la documentación que falta o que está mal.

Con un banco de preguntas con respuesta conocida, elaborado por quienes dominan el tema, que se ejecuta antes de abrir el sistema y cada vez que cambia algo relevante. Se miden tres cosas distintas: si encuentra la información cuando existe, si dice claramente que no consta cuando no existe, y si lo que afirma se corresponde con la fuente que cita. Esa tercera métrica es la crítica, porque una respuesta con cita puede seguir siendo incorrecta si el fragmento recuperado no era el adecuado. La impresión subjetiva de las primeras demostraciones no sirve: siempre son buenas, porque las preguntas las elige quien enseña la herramienta.

Cuando el conocimiento no está escrito, sino en la cabeza de las personas: ahí el proyecto real es documentar, no indexar. Cuando el volumen es pequeño y una búsqueda normal ya resuelve, porque entonces se añade complejidad y coste sin ganar nada. Y cuando lo que se necesita no es consultar sino ejecutar acciones sobre los sistemas, que es territorio de agentes y no de recuperación de documentos. También conviene descartarlo si nadie va a poder mantener el contenido: un RAG sobre documentación que se queda congelada envejece igual de mal que la propia documentación.

Depende de la arquitectura que se elija. Con proveedores en la nube, los fragmentos recuperados se envían al modelo para generar la respuesta; en los planes empresariales esos datos quedan excluidos del entrenamiento y no se retienen más allá de lo necesario, y lo verificamos y documentamos en cada proyecto. Cuando el requisito es que la información no salga en absoluto —por normativa, por contrato con un cliente o por política interna— la vía es un despliegue privado con modelos ejecutándose en vuestra propia infraestructura, asumiendo que la calidad de los modelos que se pueden autoalojar es algo inferior a la de los mejores servicios en la nube.