Los secretos de Antropic GENAI

 Los secretos de Antropic  GENAI  

Mg en Ing Carlos Gerardo Said 



Anthropic, creador del chatbot Claude, ha publicado las indicaciones del sistema (los llamados 'prompts')  que indican a sus modelos de IA (Claude 3 Opus, Claude 3.5 Sonnet y Claude 3.5 Haiku) lo que deben o no deben hacer y guía las respuestas del modelo. 

Las indicaciones más recientes del sistema indican a los tres modelos que NO: 

* abran URL, enlaces o videos; 

* identifique o nombre a cualquier ser humano en las imágenes y 

* comience las respuestas con palabras de relleno, como "ciertamente" o "absolutamente".

La base de conocimientos de Claude 3.5 Sonnet se actualizó en abril y Claude 3 Opus y Claude 3.5 Hailku se actualizaron en agosto de 2023, lo que significa que los modelos pueden responder preguntas utilizando datos anteriores o posteriores a esas fechas.

Si los modelos no pueden responder una consulta porque la información no se puede encontrar fácilmente en Internet, no se disculparán, advertirán al usuario que, aunque intentarán dar respuestas precisas, pueden "alucinar".

Ninguna otra empresa de inteligencia artificial (es decir, OpenAI, Google, Meta y Mistral) ha publicado los avisos de su sistema, ya sea por razones competitivas o para evitar que los piratas informáticos utilicen inyecciones rápidas para intentar eludir sus modelos, y muchos creen que esto es parte de la estrategia de Anthropic de presentarse como más transparente y ética, y podría impulsar a otros a hacer lo mismo.

Lo harán?  

Es esta la razón por la cual muchas veces las respuestas de la GENAI parece inconexa?  


Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA