RAG: cómo dotar a un LLM de conocimiento propio sin entrenarlo

Uno de los mayores retos al trabajar con modelos de lenguaje (LLM) como GPT, Claude o Llama es que su conocimiento está congelado en el tiempo y no incluye información privada de tu empresa: manuales internos, bases de conocimiento, documentación de producto o datos de clientes. La solución más habitual que se plantea es \"entrenar\" o hacer fine-tuning del modelo, pero esto es costoso, lento y requiere reentrenamientos constantes. Aquí es donde entra RAG (Retrieval-Augmented Generation), una técnica que permite inyectar conocimiento propio en un LLM en tiempo real, sin tocar sus pesos ni entrenarlo de nuevo.

En JULDITEC llevamos meses implementando soluciones RAG para clientes que quieren combinar sus portales Liferay DXP, documentación interna y flujos de automatización con n8n junto a asistentes conversacionales inteligentes. En este artículo te explicamos qué es RAG, cómo funciona técnicamente y qué herramientas puedes usar para implementarlo hoy mismo.

¿Qué es RAG y por qué es la alternativa al fine-tuning?

RAG combina dos mundos: un sistema de recuperación de información (retrieval) y un modelo generativo (LLM). En lugar de que el modelo \"sepa\" tu información porque fue entrenado con ella, RAG le proporciona los fragmentos de texto relevantes justo en el momento de la consulta, dentro del propio prompt.

RAG no modifica el modelo: lo alimenta con contexto relevante en cada consulta, como si le pasaras una chuleta justo antes del examen.

RAG vs Fine-tuning: comparativa práctica

• •Coste: RAG no requiere GPUs para reentrenar; el fine-tuning sí, y puede costar miles de euros según el tamaño del modelo.
• •Actualización de datos: con RAG basta actualizar la base de conocimiento; con fine-tuning hay que reentrenar cada vez que cambian los datos.
• •Trazabilidad: RAG permite citar las fuentes exactas usadas para generar la respuesta, algo crítico en entornos corporativos y legales.
• •Velocidad de implementación: un sistema RAG puede estar en producción en días; un fine-tuning bien hecho puede tardar semanas.

Esto no significa que el fine-tuning no tenga sentido en ciertos escenarios (por ejemplo, para cambiar el estilo o tono de respuesta), pero para \"dar conocimiento\" específico y actualizable, RAG es, en la mayoría de los casos, la opción más eficiente.

Arquitectura de un sistema RAG paso a paso

Un pipeline RAG típico se compone de las siguientes fases:

1. Ingesta y fragmentación de documentos (chunking)

Se toman los documentos fuente (PDFs, páginas de Liferay, wikis, tickets de soporte) y se dividen en fragmentos pequeños (\"chunks\") de 300-800 tokens, normalmente con solapamiento entre ellos para no perder contexto en los cortes.

2. Generación de embeddings

Cada fragmento se convierte en un vector numérico (embedding) mediante un modelo de embeddings (OpenAI text-embedding-3, Cohere, o modelos open-source como BAAI/bge). Estos vectores representan el significado semántico del texto.

from langchain_openai import OpenAIEmbeddings
from langchain_community.vectorstores import Chroma

embeddings = OpenAIEmbeddings(model=\"text-embedding-3-small\")
vectorstore = Chroma.from_documents(chunks, embeddings)

3. Almacenamiento en una base de datos vectorial

Los embeddings se guardan en una vector database, optimizada para búsquedas por similitud semántica. Las opciones más usadas actualmente son:

• •Pinecone — gestionada en la nube, muy escalable.
• •Weaviate — open source, con búsqueda híbrida (vectorial + keyword).
• •pgvector — extensión para PostgreSQL, ideal si ya usas Postgres en tu stack.
• •Chroma — ligera, perfecta para prototipos y entornos locales.

4. Recuperación (retrieval)

Cuando el usuario hace una pregunta, esta también se convierte en embedding y se busca en la base vectorial los fragmentos más similares (normalmente los top-k, entre 3 y 10 resultados) mediante distancia coseno o producto punto.

5. Generación aumentada

Los fragmentos recuperados se inyectan como contexto en el prompt del LLM, junto con la pregunta original:

Contexto:
{fragmentos_recuperados}

Pregunta: {pregunta_usuario}

Responde usando únicamente la información del contexto anterior. Si no encuentras la respuesta, indícalo.

El LLM (GPT-4, Claude, Llama 3, Mistral...) genera entonces una respuesta fundamentada en datos reales y verificables, reduciendo drásticamente las famosas alucinaciones.

Herramientas para implementar RAG

LangChain y LlamaIndex

Son los frameworks más populares para orquestar pipelines RAG en Python. LangChain ofrece abstracciones para chunking, embeddings, retrievers y cadenas de generación, mientras que LlamaIndex está más enfocado en indexación eficiente de documentos.

RAG sin código con n8n

No todos los proyectos necesitan un desarrollo a medida en Python. En JULDITEC utilizamos n8n para construir flujos RAG completos de forma visual, ideal para automatizar la ingesta de documentos y conectar con vector stores:

• •Nodo Trigger que detecta nuevos documentos en Liferay, Google Drive o un CMS.
• •Nodo Text Splitter para fragmentar el contenido.
• •Nodo Embeddings (OpenAI, Cohere) para vectorizar.
• •Nodo Vector Store (Pinecone, Supabase, pgvector) para indexar.
• •Nodo AI Agent / Chat que combina retrieval + LLM para responder consultas de usuarios.

Esto permite montar en pocas horas un asistente conectado a tu Liferay DXP que responde preguntas sobre documentación corporativa, políticas internas o catálogos de producto, sin escribir una sola línea de código de backend.

Caso de uso real: asistente corporativo sobre Liferay DXP

Imagina una intranet corporativa construida en Liferay DXP con miles de páginas de documentación, políticas de RRHH y manuales técnicos. Con RAG podemos:

• •Indexar todo el contenido publicado en Liferay (vía API REST o Headless Delivery) como base de conocimiento vectorial.
• •Desplegar un chatbot embebido en el portal que responde preguntas en lenguaje natural citando la página exacta de origen.
• •Actualizar automáticamente el índice cada vez que se publica o modifica contenido, mediante un flujo n8n programado.

El resultado: los empleados obtienen respuestas precisas y trazables en segundos, sin depender de búsquedas manuales ni de tickets al departamento de soporte interno.

Buenas prácticas y errores comunes

• •Cuidado con el tamaño de los chunks: fragmentos demasiado grandes diluyen la relevancia; demasiado pequeños pierden contexto.
• •Metadatos siempre presentes: guarda origen, fecha y URL de cada fragmento para poder citar fuentes.
• •Reranking: añade un paso de reordenación (con modelos como Cohere Rerank) para mejorar la precisión antes de generar la respuesta final.
• •Evaluación continua: mide la calidad de las respuestas con métricas como faithfulness y context recall.

Conclusión

RAG democratiza el acceso a la IA generativa aplicada a datos privados, sin los costes ni la complejidad del fine-tuning. Combinando embeddings, bases de datos vectoriales y frameworks como LangChain o herramientas visuales como n8n, cualquier organización puede construir asistentes inteligentes conectados a su propio conocimiento, ya sea alojado en Liferay DXP, un CMS o repositorios documentales internos. En JULDITEC ayudamos a empresas a diseñar e implementar estas arquitecturas RAG de forma escalable y segura, integradas con su ecosistema digital existente.