DEEPSEEK (AI) - cómo se llegó al "hoy"? y Luego?

 DEEPSEEK - cómo se llegó al "hoy"? y Luego?

Mg. en Ing. Carlos Gerardo Said 



Es probable que haya oído hablar en el ámbito competitivo de los modelos de IA, el nombre DeepSeek.

Es una startup con sede en China, y llamó la atención de todos al desplazar a OpenAI el puesto de la aplicación gratuita más descargada en EE. UU., en la App Store de Apple.

Cómo lo hicieron?
Lanzando un modelo de código abierto que, según afirman, puede igualar o superar el rendimiento de otros modelos líderes de la industria y a una fracción del costo.

El modelo específico que está causando atención de DeepSeek se llama DeepSeek R1, y la R aquí implica razonamiento, porque este es un modelo de razonamiento. 

DeepSeek R1 funciona tan bien como algunos de los otros modelos, incluido el modelo de razonamiento de OpenAI. Este se llama o1. 

DeepSeek pudo igualarlo o incluso superarlo en una serie de benchmarks de IA para tareas de matemáticas y codificación, lo cual es más notable porque, según DeepSeek, DeepSeek R1 se entrena con muchos menos chips  (procesamiento) y es aproximadamente un 96% más barato de ejecutar que o1.


A diferencia de los modelos de IA anteriores que producen una respuesta sin explicar el porqué, un modelo de razonamiento resuelve problemas complejos dividiéndolos en pasos. 

Entonces, antes de responder a una consulta del usuario, el modelo dedica tiempo a pensar, "pensar" entre comillas, y ese tiempo de pensamiento podría ser de unos segundos o incluso minutos.

Durante este tiempo, el modelo realiza un análisis paso a paso a través de un proceso que se conoce como cadena de pensamiento. Y a diferencia de otros modelos de razonamiento, R1 muestra el uso de ese proceso de cadena de pensamiento a medida que desglosa el problema, a medida que genera ideas, a medida que retrocede y dice que necesita hacerlo, y a medida que finalmente llega a una respuesta.

Voy a explicar cómo funciona este modelo. Pero antes de eso, hablemos unas palabras acerca de cómo llegó a ser lo que hoy es. 

DeepSeek R1 parece haber surgido de la nada. Pero, de hecho, hay varios modelos previos de DeepSeek que llevaron a este punto. 

Empecemos desde el principio.

DeepSeek versión uno, es un modelo que se lanzó en enero de 2024. Es un transformador tradicional con enfoque en las redes neuronales feedforward. 

Luego, DeepSeek versión dos, que lo puso en el concierto de la AI. Este es un modelo muy grande (millones de parámetros) que se lanzó no muy lejos del original,  junio de 2024. 

Pero para poner esto en perspectiva, hay realmente dos aspectos novedosos en torno a este modelo que hicieron que el modelo fuera realmente rápido y de alto rendimiento. 

Y preparó para el éxito de la versión tres de DeepSeek, que se lanzó en diciembre de 2024. Este es aún más grande. Tiene millones de parámetros. 

Aquí es donde comenzamos a ver la introducción del uso del aprendizaje por refuerzo y algunas otras contribuciones que tuvo este modelo. Hicieron que fuera capaz de equilibrar la carga en muchas GPU, utilizaron muchos H800 dentro de su infraestructura.  Además se construyó sobre la base de DeepSeek v2. 

Así que todos estos modelos se acumulan y se construyen uno "encima" del otro, lo que nos lleva a DeepSeek R1-Zero, que se lanzó en enero de 2025. 

Es este el primero de los modelos de razonamiento, verdad? Lo es, sí.  Pero en este, utilizaron el aprendizaje por refuerzo, que es una forma en la que se implementan políticas para recompensar o penalizar al modelo por alguna acción que ha tomado o salida que ha tomado y aprende con el tiempo, y se torna más eficaz. 

Pero mejoró aún más con DeepSeek R1, que se construyó nuevamente sobre R1-Zero, y este utilizó una combinación de aprendizaje por refuerzo y ajuste fino supervisado, lo mejor de ambos mundos, para que pudiera ser aún superador, y estar muy cerca del rendimiento, en muchos estándares y benchmarks,  a los modelos de OpenAI que tenemos actualmente. 

Y esto nos lleva ahora a los modelos destilados, que es como un paradigma completamente diferente.

Volveré en breve sobre esto. 


Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA