Los secretos de Antropic GENAI
Los secretos de Antropic GENAI
Mg en Ing Carlos Gerardo Said
Anthropic, creador del chatbot Claude, ha publicado las indicaciones del sistema (los llamados 'prompts') que indican a sus modelos de IA (Claude 3 Opus, Claude 3.5 Sonnet y Claude 3.5 Haiku) lo que deben o no deben hacer y guía las respuestas del modelo.
Las indicaciones más recientes del sistema indican a los tres modelos que NO:
* abran URL, enlaces o videos;
* identifique o nombre a cualquier ser humano en las imágenes y
* comience las respuestas con palabras de relleno, como "ciertamente" o "absolutamente".
La base de conocimientos de Claude 3.5 Sonnet se actualizó en abril y Claude 3 Opus y Claude 3.5 Hailku se actualizaron en agosto de 2023, lo que significa que los modelos pueden responder preguntas utilizando datos anteriores o posteriores a esas fechas.
Si los modelos no pueden responder una consulta porque la información no se puede encontrar fácilmente en Internet, no se disculparán, advertirán al usuario que, aunque intentarán dar respuestas precisas, pueden "alucinar".
Ninguna otra empresa de inteligencia artificial (es decir, OpenAI, Google, Meta y Mistral) ha publicado los avisos de su sistema, ya sea por razones competitivas o para evitar que los piratas informáticos utilicen inyecciones rápidas para intentar eludir sus modelos, y muchos creen que esto es parte de la estrategia de Anthropic de presentarse como más transparente y ética, y podría impulsar a otros a hacer lo mismo.
Lo harán?
Es esta la razón por la cual muchas veces las respuestas de la GENAI parece inconexa?
Comments
Post a Comment