Posts

RAG - Retrieval Augmented Generation - the instrument to increase the precision of LLMs - Model Hallucination

Image
 RAG - Retrieval Augmented Generation - the instrument to increase the precision of LLMs - Model Hallucination  Mg. en Ing Carlos Gerardo Said  In the previous post I mentioned RAG. Let's talk about it.  In 2020, Patrick Lewis, a doctor in the field of language models who worked at the former Facebook AI Research (now Meta AI Research) publishes together with Ethan Perez from New York University an article titled: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks in which they explained a technique to make current language models more precise and concrete.  Large Language Models are artificial intelligence models that are trained using Deep Learning algorithms on large sets of information.  In this way, once trained, they have learned the way in which humans use the spoken and written word, so they are able to offer us general answers with a human pattern to the questions we ask them.  However, if we are looking for precise answers ...

RAG - Retrieval Augmented Generation - el instrumento para aumentar la precisión de los LLMs

Image
  RAG - Retrieval Augmented Generation Mg. en Ing. Carlos Gerardo Said En el post previo les mencioné RAG. Hablemos de ello.  En 2020,  Patrick Lewis , un doctor en el campo de los modelos del lenguaje que trabajaba en la antigua  Facebook AI  Research  (ahora  Meta AI  Research ) publica junto a Ethan Perez de la Universidad de Nueva York un artículo titulado:  Retrieval-Augmented  Generation for Knowledge-Intensive NLP Tasks  en el que explicaban una técnica para hacer más precisos y concretos los modelos del lenguaje actuales.  Los modelos grandes del lenguaje o   Large Language Models   son  modelos de inteligencia artificial que se entrenan utilizando algoritmos de  Deep Learning  sobre conjuntos grandes de información .  De esta manera, una vez entrenados, han aprendido la forma en la que los humanos utilizamos la palabra hablada y escrita, así que son capaces de ofrecernos respuestas general...

La IA generativa: un nuevo vector de ataque?

  La IA generativa: un nuevo vector de ataque? Mg. en Ing. Carlos Gerardo Said  Los investigadores de ciberseguridad llevan tiempo advirtiendo que los programas de inteligencia artificial generativa (GenAI) son vulnerables a una gama de ataques, desde indicaciones especialmente diseñadas que pueden romper barreras de seguridad hasta filtraciones de datos que pueden revelar información confidencial. Cuanto más profunda es la investigación, más expertos descubren hasta qué punto la GenAI es un riesgo abierto, especialmente para los usuarios empresariales con datos sensibles y valiosos. Con la IA generativa mucha gente se apresura a utilizar esta tecnología y eluden los controles y métodos normales" de la informática segura. Se puede pensar en la tecnología de IA generativa como un nuevo sistema operativo o un nuevo lenguaje de programación. Mucha gente no sabe cuáles son los pros y los contras, ni cómo usarlo correctamente, ni cómo asegurarlo correctamente. El ejemplo ...