El nacimiento de RAG: la búsqueda de respuestas actualizadas
En el artículo La evolución y el futuro de ChatGPT, explicamos que los LLM tienen una limitación fundamental: no pueden responder preguntas sobre eventos recientes que no están incluidos en sus datos de entrenamiento. Para superar esta limitación, se desarrolló una técnica conocida como Generación Aumentada de Recuperación (RAG).
RAG integra un mecanismo de recuperación externo con las capacidades de generación de texto de un LLM. De este modo, permite al modelo complementar su propio conocimiento interno —adquirido durante el entrenamiento— con información recuperada de fuentes externas.
Como resultado, los LLM pueden generar respuestas basadas en conocimientos actualizados o específicos del dominio que van más allá de sus datos de entrenamiento originales, rompiendo efectivamente los límites de conocimiento del modelo.
Punto clave
RAG nació del deseo de hacer que los LLM respondan con la información más actualizada.
Los LLM generalmente reciben capacitación sobre textos sociales y científicos disponibles públicamente y recopilados hasta un momento determinado. Esto significa que el conocimiento de un modelo no incluye noticias o eventos que sucedieron después de su corte de entrenamiento, ni información no pública, específica de la empresa o de la industria.
Para superar esta limitación fundamental de no poder "actualizar" sus conocimientos, los desarrolladores crearon la Generación Aumentada de Recuperación (RAG), un enfoque que integra el acceso a información externa. En pocas palabras, la demanda natural de que los LLM proporcionen datos actualizados es lo que impulsó el desarrollo de RAG.
La estructura general de los primeros RAG
La generación aumentada por recuperación (RAG) fue introducida en un artículo de 2020 por investigadores de Facebook (ahora Meta) titulado “Generación aumentada por recuperación para tareas de PNL intensivas en conocimiento”
En este artículo, RAG se define como un modelo que combina los dos pasos siguientes:
- RecuperaciónLos
pasajes relevantes (fragmentos de texto) relacionados con la consulta de un usuario se recuperan de una base de datos externa. - Generación (con aumento)
Un modelo generativo (como BART) genera una respuesta mientras aumenta su conocimiento interno con la información recuperada.
La arquitectura de dos etapas de RAG
| Componente | Rol |
| Módulo de recuperación (Retriever) | Obtiene información relevante de bases de datos externas o corpus de documentos |
| Módulo de Generación (Generador) | Genera una respuesta incorporando la información recuperada al contexto del modelo |
Con esta arquitectura, un LLM puede producir respuestas precisas incluso para información que no posee inherentemente, complementando dinámicamente su conocimiento a través de la recuperación.
Vectorizar “Pasajes,” No Palabras Individuales
Un aspecto clave de RAG radica en la unidad de datos sobre la que opera. En lugar de utilizar palabras individuales como base para la recuperación, RAG divide los documentos en segmentos de longitud fija conocidos como fragmentos y utiliza estos pasajes como objetivos de recuperación.
Para permitir la búsqueda semántica en lugar de una simple coincidencia de palabras clave, cada fragmento se convierte como un todo en un único vector numérico. Esto permite que la información recuperada aumente el contexto del LLM en función del significado, no solo de la superposición de palabras a nivel superficial.
Nota: Generación a nivel de token versus recuperación a nivel de pasaje
Mientras que el proceso de generación de un LLM construye texto token por token, el proceso de recuperación en RAG trata un pasaje completo como una sola unidad de información. Reconocer esta diferencia entre la generación a nivel de token y el aumento a nivel de pasaje es clave para comprender la estructura de RAG.
La esencia y forma ideal de RAG
¿Qué impresión tuvo de la estructura general de RAG descrita en la sección anterior? Para los lectores que lo conocieron por primera vez, puede haber parecido algo complejo. Incluso la frase “vectorización de documentos” puede resultar difícil de entender intuitivamente. Si esa fue tu reacción, es completamente natural.
Por el contrario, los LLM con los que los lectores ya están familiarizados son, en cierto sentido, sistemas de IA “terminados” —meticulosamente entrenados en cantidades masivas de datos y construidos fundamentalmente sobre la vectorización de palabras. RAG, que se basa en la vectorización de documentos, puede verse como una especie de enfoque de mosaico que agrega el conocimiento faltante a dichos LLM después del hecho.
Un sistema RAG ideal es aquel en el que estas costuras son invisibles—una IA que se comporta como si hubiera poseído el conocimiento relevante desde el principio.
En la práctica, sin embargo, construir un sistema RAG tan ideal está lejos de ser fácil. Esta estructura en forma de patchwork es en sí misma uno de los factores clave que dificultan el desarrollo y el funcionamiento de RAG. Exploraremos este tema con más detalle en el próximo capítulo.
Vectorización de palabras vs. Vectorización de documentos
| Aspecto | Vectorización de palabras (LLM) | Vectorización de documentos (RAG) |
| Unidad básica | Palabras / tokens individuales | Pasajes de texto (fragmentos) |
| Propósito | Generar texto paso a paso | Recuperar información relevante |
| Formación / Uso | Aprendido durante el preentrenamiento a gran escala | Aplicado a documentos externos en tiempo de ejecución |
| Representación | Cada palabra se asigna a un vector | Cada pasaje se asigna a un único vector |
| Estilo de procesamiento | Secuencial (token por token) | Holístico (pasaje completo a la vez) |
Punto clave
La visión definitiva de RAG: integración perfecta de experiencia en dominios
El surgimiento de RAG está impulsado por un objetivo fundamental singular: aumentar las limitaciones de conocimiento de los modelos de lenguaje grandes (LLM) con fuentes de datos externas. Sin embargo, el conocimiento específico requerido para esta ampliación depende enteramente del contexto operativo y del dominio especializado del sistema RAG.
Desde esta perspectiva, la visión definitiva de RAG se hace evidente:
Un estado en el que la experiencia específica del dominio se utiliza de forma tan natural y coherente como si fuera un componente intrínseco del propio conocimiento fundamental del LLM.
Lograr esta visión transformadora está lejos de ser trivial. Es necesario superar numerosos obstáculos técnicos, entre ellos asegurar la disponibilidad y calidad de datos altamente especializados, determinar la granularidad de fragmentación óptima e implementar estrategias de vectorización de uno a muchos que capturen con precisión relaciones complejas y no lineales.
Sin embargo, el desafío más fundamental e intratable es la armonización del espacio semántico interno del LLM con el espacio de conocimiento externo. Esta alineación debe lograrse mediante un diseño de incrustación meticuloso y sincronización semántica.
Esta fusión de espacios de significado es el verdadero desafío central de RAG.
Sólo cuando se logre, un LLM podrá aprovechar el conocimiento externo específico del dominio como si fuera propio—de manera fluida, contextual y natural.
Punto clave
Brechas RAG como arquitectura patchwork para aumentar las brechas de conocimiento de LLM
Los LLM poseen un amplio conocimiento general, pero con frecuencia carecen de cobertura de dominios especializados —como información corporativa patentada o detalles detallados de campos académicos altamente especializados— donde los datos públicos de alta calidad son escasos.
La Generación Aumentada por Recuperación (RAG) fue ideada precisamente para compensar estas "brechas de conocimiento" Al recuperar dinámicamente la información necesaria de diversas fuentes externas e introducirla en el modelo en el momento de la inferencia, RAG "une" eficazmente el contexto faltante, de forma muy similar a una colcha de patchwork.
Por ejemplo, al abordar preguntas que dependen de la terminología específica de la empresa o del contexto idiosincrásico, RAG evita la necesidad de volver a capacitar o ajustar el LLM básico. En lugar de ello, recupera documentos externos relevantes, que luego el LLM utiliza para resumir y sintetizar la respuesta final.
En este sentido, RAG exhibe una estructura similar a un mosaico a lo largo de dos dimensiones cruciales: el alcance del conocimiento recuperado (la fuente externa) y la estrategia para integrar ese conocimiento en el proceso de generación final.
