Mellea: Programación Generativa
Mellea: Programación Generativa Un programa generativo es cualquier programa que contiene llamadas a un LLM (Large Language Model, o modelo de lenguaje de gran escala) . Esto abarca desde un simple envoltorio ( wrapper ) de un prompt hasta un complejo sistema de razonamiento de múltiples pasos. El término es deliberadamente amplio: lo importante no es cuántas llamadas a un LLM realiza un programa, sino los desafíos estructurales que surgen cuando se combinan operaciones estocásticas realizadas por LLM con código determinista. Mellea es una biblioteca diseñada para escribir correctamente programas generativos. El desafío fundamental Los programas clásicos son deterministas. Dada la misma entrada, producen la misma salida. Es posible razonar sobre ellos, probarlos y confiar en que los resultados obtenidos durante las pruebas pueden generalizarse. Las llamadas a los LLM no son deterministas. El mismo prompt , enviado al mismo modelo y utilizando la misma temperatura, puede produci...