RAG - LLM - (Generación Aumentada por Recuperación - Modelos de Lenguaje de Gran Tamaño)
Los LLMs (modelos de lenguaje de gran tamaño) son herramientas de utilidad creciente.
Pueden responder preguntas, resumir y reescribir textos, brindar retroalimentación sobre documentos, generar código, y más.
Este tipo de tareas parecían inalcanzables para las computadoras hace apenas unos años.
RAG es un enfoque que mejora aún más el rendimiento de los modelos de lenguaje al darles acceso a información que no conocen a partir de su entrenamiento.
Para ilustrar esa idea, veamos algunos ejemplos.
Supongamos que le pregunto: ¿por qué el alquiler de autos es caro los fines de semana?
Probablemente puedas responder esa pregunta.
Más personas viajan durante los fines de semana, por lo que hay más competencia por los autos.
Ahora supongamos que pregunto: ¿por qué los autos en Argentina son más caros este próximo fin de semana?
Necesitaría más información para responder esa cuestión.
Si buscara en internet, tal vez encontraría que comienzan las vacaciones.
Con esa información adicional, probablemente podría responder la pregunta.
Finalmente, supongamos que le pregunto: ¿por qué Argentina no tiene más autos disponibles para alquilar?
Para responder esta pregunta, probablemente tendría que investigar en profundidad sobre la historia del desarrollo del alquiler de autos en Argentina, y cosas por el estilo.
En otras palabras, necesitaría acceso a información especializada.
Puedes pensar en cómo responde a estas preguntas como un proceso en dos fases:
Primero, recopila la información necesaria, y luego razona sobre esa información para desarrollar la respuesta.
Como vio con la primera pregunta, a veces no necesita recopilar ninguna información.
Con base en su conocimiento del mundo, está listo para responder de inmediato.
Pero otras veces, podría necesitar recopilar un poco, o incluso mucha, información.
En RAG, el proceso de recopilar información útil se llama recuperación (retrieval), y el proceso de razonar sobre esa información y responder se llama generación.
Los LLMs se benefician de la fase de recuperación por básicamente las mismas razones que usted.
Puede pensar en los LLMs como una especie de persona con una gran variedad de conocimientos generales adquiridos al leer enormes cantidades de contenido en internet.
Cuando hace una solicitud (prompt) a un LLM, este se basa en ese conocimiento para generar una respuesta.
Para muchas solicitudes, esto funciona muy bien.
Sin embargo, en otros casos, el LLM no tiene la información necesaria para responder con precisión.
La solicitud podría referirse a un evento muy reciente o a información especializada que nunca vio antes.
Al igual que con usted, no es razonable esperar que los LLMs sean expertos en todos los temas, y ofrecen respuestas mucho mejores cuando tienen acceso a mejor información.
Reconocer que los LLMs también se benefician de una fase de recuperación es la idea central de RAG.
Los LLMs no son personas que pasan mucho tiempo en Wikipedia. Más bien, son modelos matemáticos entrenados con conjuntos de datos masivos tomados de todo internet abierto.
Durante el proceso de entrenamiento, el modelo aprende cualquier información contenida en esos datos de entrenamiento.
Cuando envía un prompt a un LLM, estás esperando que la información relevante para su pregunta haya estado incluida en los datos de entrenamiento, idealmente muchas veces.
Desafortunadamente, mucha información no está incluida.
Las empresas tienen bases de datos privadas, cierta información está oculta o es difícil de acceder, y dado que se publican noticias a cada minuto, siempre habrá información con la que un LLM no fue entrenado.
Entonces, la pregunta es: ¿cómo se asegura de que el LLM conozca esa información útil?
La respuesta corta: inclúyela en el prompt.
La idea clave de un sistema RAG es que puede modificar un prompt antes de enviárselo al modelo de lenguaje. Además de la pregunta original del usuario, puede agregar información que ayude al LLM a responder mejor.
.jpeg)
Comments
Post a Comment