Posts

Showing posts with the label chatgpt

Hablemos en profundidad sobre LLM (GEN AI): hardware y software necesarios. ¿Y el futuro?

Image
 Hablemos en profundidad sobre LLM (GEN AI): hardware y software necesarios. ¿Y el futuro? Mg. en Ing. Carlos Gerardo Said Hoy tuve la oportunidad de escuchar una conversación sobre la IA Generativa. No deja de sorprenderme la casi trivialidad con la cual se trata el tema. Ello me llevó a presentar estas notas que tenía en borrador, para que de alguna forma se perciba la 'sobre simplificación' que se hace del tema.  No pretendo que se tornen en expertos, pero si que comprendan que detrás de esas simplificaciones, hay ciencia pensando y creando.  Empecemos:     Ejecutar grandes modelos de lenguaje (LLMs), como GPT-4, requiere una combinación de hardware avanzado y software optimizado para gestionar de manera eficiente tanto los procesos de entrenamiento como de inferencia. Exploremos esto en detalle, incluyendo el panorama actual y el futuro del hardware y software para LLMs. Requisitos de hardware Los LLMs son computacionalmente intensivos y demandan recursos de...

Talk en deep about LLMs (GEN AI) - Hardware and Software needed. An the future?

Image
 Talk en deep  about LLMs (GEN AI) - Hardware and Software needed. An the future?   Mg. en Ing. Carlos Gerardo Said  Running large language models (LLMs) like GPT-4 requires a combination of advanced hardware and optimized software to efficiently manage both training and inference processes. Let's explore this in-depth, including the current landscape and the future of LLM hardware and software. 1. Hardware Requirements LLMs are computationally intensive and demand significant hardware resources, especially during the training phase. Here's a breakdown of the main hardware components involved: a. GPUs (Graphics Processing Units) GPUs are the cornerstone of LLMs because they can perform the parallel computations required for training deep neural networks. Key characteristics of GPUs for LLMs include: CUDA Cores : These allow for massive parallelism, making them ideal for matrix and tensor operations, which are central to deep learning. High Memory Bandwidth : GPU...

How do we get to Generative AI?

Image
 How do we get to Generative AI? Mg. en Ing. Carlos Gerardo Said  Artificial intelligence was not born with ChatGPT. Nor was it born with deep learning algorithms (e.g. recognizing objects in an image). The history of artificial intelligence begins many decades ago. These are the most important milestones in the evolution of artificial intelligence. 1943: the first artificial neural network It is shown how a system of artificial neurons can learn in the same way as humans (https://link.springer.com/article/10.1007/BF02478259). It is shown that through a series of trials and errors, the connections between the artificial neurons that led to the correct action are strengthened, while those that led to the incorrect action are weakened. This system, therefore, does not need to be programmed with fixed rules, but learns autonomously by exploiting the data it has. 1950: The Turing Test Alan Turing first posed (in his article “Computing Machinery and Intelligence”) the question that...

Cómo llegamos a la IA Generativa?

Image
 Cómo llegamos a la IA Generativa?    Mg. en Ing. Carlos Gerardo Said  La inteligencia artificial no nació con ChatGPT. Tampoco lo hizo con los algoritmos de aprendizaje profundo  (por ejemplo, reconocer objetos en una imagen). La historia de la inteligencia artificial comienza hace muchas décadas. Estos son los  hitos más importantes en la evolución de la inteligencia artificial. 1943: la primera red neuronal artificial Se muestra cómo un sistema de neuronas artificiales puede aprender del mismo modo que los humanos (https://link.springer.com/article/10.1007/BF02478259). Se muestra que a través de una serie de ensayos y errores, las conexiones entre las neuronas artificiales que llevaron a la acción correcta se fortalecen, mientras que las que llevaron a la acción incorrecta se debilitan. Este sistema, por tanto, no necesita ser programado con reglas fijas, sino que aprende de forma autónoma explotando los d...