NVIDIA y AI GEN de audio/vídeo
NVIDIA y AI GEN de audio/vídeo
Mg. en Ing. Carlos Gerardo Said
NVIDIA parece ser la que más se ha beneficiado de la ola de IA hasta ahora. De hecho, tanto es así que el Departamento de Justicia de Estados Unidos está investigando denuncias de que el fabricante de chips está incurriendo en un comportamiento anticompetitivo.
Los chips de la compañía aparentemente tienen una debilidad cuando se trata de un campo creciente de investigación de IA: la generación de video.
El problema principal es que las unidades de procesamiento de gráficos de NVIDIA, incluso sus masivas H100, no tienen suficiente memoria para manejar la inmensa cantidad de datos de video necesarios para entrenar estos modelos.
"Los datos de entrenamiento [para los modelos de generación de video] pueden escalarse a petabytes con bastante facilidad, a diferencia de unos pocos cientos de terabytes para los modelos de solo lenguaje", dijo un cofundador de la startup de generación de video Luma AI.
Para darle una idea de la magnitud de esto: un petabyte equivale a 1.000 terabytes, o alrededor de 500.000 horas de vídeo.
Otro obstáculo para las nuevas empresas de vídeo con IA es cuando las GPU no transfieren datos entre sí con la suficiente rapidez. Esto es importante porque los datos de vídeo son significativamente mayores que los datos de idioma o de imagen, por lo que es aún más importante que puedan transferirse entre chips rápidamente.
Las dificultades para entrenar y ejecutar modelos de generación de video con las GPU actuales probablemente hayan frenado el progreso del mercado de video con IA. Sora de OpenAI lleva seis meses y aún no podemos ver ninguna señal de un lanzamiento público.
Cuando Luma lanzó su producto de generación de videos, la avalancha de usuarios 'agotó' sus sistemas, lo que provocó que el sitio web cayera durante gran parte del día. Eso obligó al equipo de Luma a agregar miles de GPU en días, de sus tres o cuatro proveedores diferentes, lo que no fue una tarea de ingeniería fácil.
Las GPU de NVIDIA son prácticamente la mejor opción disponible en la actualidad para entrenar modelos de vídeo.
Las empresas están probando el próximo chip insignia de inteligencia artificial de NVIDIA, Blackwell, cuya memoria significativamente mayor probablemente solucionará algunos de los problemas que surgen con los modelos de generación de video de entrenamiento.
Pero también hay una oportunidad para los rivales, concretamente Advanced Micro Devices. Sus chips MI300X ya tienen más del doble de memoria que los H100 de NVIDIA.
Comments
Post a Comment