KIHUBDIGITAL

RAG

Modelos de lenguaje con el conocimiento de su empresa.

Retrieval-Augmented Generation conecta un modelo de lenguaje con su propia base de conocimiento. En lugar de responder con lo que aprendió durante el entrenamiento, el modelo recupera en el momento los pasajes que hacen falta de sus documentos — y los cita.

El resultado es un asistente que habla el idioma de su casa: con sus normas, su documentación y su conocimiento — y con la referencia debajo de cada afirmación.

Qué ocurre entre la pregunta y la respuesta.

01

La pregunta

Todo empieza con una pregunta en lenguaje normal: «¿Cómo funciona aquí el escalado de una incidencia?». Nadie tiene que saber en qué documento está la respuesta.

Quien solo sustituye el buscador de la intranet no gana nada: la diferencia está en poder preguntar como uno piensa.

02

Reescritura de la consulta y embedding

La pregunta se afina y se traduce a un vector — una serie de números que representa su significado, no sus palabras. Así «escalado» encuentra también lo que está archivado como «aviso de avería».

Sin reescritura fallan las repreguntas: «¿y en turno de noche?» por sí sola no da un vector de búsqueda con sentido.

03

Recuperar los pasajes que encajan

Se busca en la base de conocimiento y vuelven los fragmentos más parecidos — chunks. No documentos enteros: trozos lo bastante pequeños para caber en el contexto.

Troceado muy grueso, la respuesta se ahoga en el relleno. Muy fino, y la frase pierde el contexto que la explica.

04

Reranking y filtrado

Un segundo modelo vuelve a puntuar los resultados y descarta lo que solo suena parecido. Lo que sigue adelante son los pocos pasajes que de verdad responden.

Este es el paso que más se ahorra — y el que convierte «más o menos correcto» en fiable.

05

Componer el prompt

Pregunta y contexto recuperado se unen en una instrucción, junto con las reglas: de dónde se puede responder y que no se añada nada que no esté ahí.

Sin esas reglas, el modelo rellena los huecos con lo suyo — y ahí es donde nacen las alucinaciones.

06

Respuesta con fuente

El modelo responde y dice de dónde sale cada afirmación. Quien dude, abre el documento y lee el pasaje.

Una respuesta sin fuente no vale nada en una empresa: nadie firma una frase que no puede comprobar.

RAG vale lo que valga aquello con lo que lo alimente.

Tres fuentes sostienen la mayoría de las soluciones que construimos. Ninguna tiene que estar ordenada de antemano, pero sí hay que decidir qué versión es la que vale.

Normas y manuales de actuación

Procesos internos, guías, requisitos de cumplimiento — lo que hoy vive en un PDF que nadie abre.

Documentación de producto

Manuales, especificaciones, preguntas técnicas. También las versiones que solo están en la carpeta de un departamento.

Actas y post-mortems

Lo que se escribió después de un fallo: causas, soluciones, decisiones. El conocimiento que si no se va con quien estuvo.

La ganancia real se llama contexto en tiempo de ejecución: como el pasaje correcto está en el prompt, el modelo no tiene que inventarse nada. Eso es lo que reduce las alucinaciones — y lo que aun así salga mal se nota, porque al lado hay una fuente.

¿RAG o fine-tuning?

Resuelven cosas distintas. RAG aporta conocimiento; el fine-tuning moldea el comportamiento. Para casi todo lo que una empresa necesita primero, RAG es el camino corto — aunque sin fine-tuning tampoco se llega siempre.

CriterioRAGFine-tuning
Actualizar el conocimientoCambiar el documento y listoHace falta volver a entrenar
Citar la fuenteSí, cada afirmación comprobableNo, el saber queda dentro del modelo
Esfuerzo inicialDe bajo a medioAlto, con conjunto de datos y cómputo
Datos sensiblesSe quedan en su repositorio, con permisosQuedan grabados en el modelo
Acertar el tono y el formatoCon instrucciones y ejemplosMás firme, pero cableado
Tiempo de respuestaSe suma la búsquedaDirecto, sin rodeo

Dónde empieza a rendir.

Soporte interno

El equipo recibe la respuesta de la documentación oficial, no de la memoria del compañero de al lado.

Incorporación

Quien llega accede el primer día al conocimiento de la casa, sin interrumpir a nadie.

Atención al cliente

La misma pregunta recibe la misma respuesta — según sus normas, no según el día.

Incidencias

Acceso a los manuales y a los post-mortems anteriores justo cuando hay prisa.

Preguntas frecuentes sobre RAG.

¿Cuántos documentos hacen falta para que merezca la pena?

Importa menos el número que la frecuencia con la que se busca. Treinta documentos que alguien consulta a diario rinden más que tres mil que nadie abre.

¿Qué pasa con nuestros datos?

Los documentos se quedan donde están; se indexa lo que usted autorice. La operación puede estar en su casa o con nosotros, con servidores en Alemania. Antes de ver un solo dato hay contrato de encargo de tratamiento según el art. 28 del RGPD.

¿Se respetan los permisos de acceso?

Tienen que respetarse. Quien hoy no puede leer un documento tampoco puede recibirlo como respuesta. Por eso los permisos van en la recuperación y no solo en la interfaz — es el fallo más común en las soluciones montadas con prisa.

¿Entonces ya no alucina?

Menos, no nunca. Con contexto y obligación de citar, el riesgo baja mucho, y como cada afirmación lleva su fuente, un error se nota en vez de pasar desapercibido. Eso lo medimos con evaluaciones, no lo afirmamos.

¿Cuánto tarda la construcción?

Máximo dos semanas por tramo, con los datos ordenados. Lo que cuesta tiempo rara vez es la técnica, sino decidir qué documentos valen y cuáles están caducados.

Seguir leyendo

¿RAG en su empresa?

Cuéntenos en qué documentos está el conocimiento y quién lo busca hoy. Quince minutos bastan para una primera valoración — también para saber si merece la pena construirlo.

Solicitar asesoramiento