Posts

Cost-effective performance for generative AI inference workloads and the highest performance for graphics workloads.

Image
  Announcing Amazon EC2 G7e instances accelerated by NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs Today, Amazon is announcing the general availability of  Amazon Elastic Compute Cloud (Amazon EC2)  G7e instances that deliver cost-effective performance for generative AI inference workloads and the highest performance for graphics workloads. G7e instances are accelerated by the NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs and are well suited for a broad range of GPU-enabled workloads including spatial computing and scientific computing workloads. G7e instances deliver up to 2.3 times inference performance compared to  G6e instances . Improvements made compared to predecessors: NVIDIA RTX PRO 6000 Blackwell GPUs  — NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs offer two times the GPU memory and 1.85 times the GPU memory bandwidth compared to G6e instances. By using the higher GPU memory offered by G7e instances, you can run medium-sized models of up t...

Las TELCOS entran en la IA: más que conectividad, hacia modelos “as-a-service”

Image
  Las telcos entran en la IA: más que conectividad, hacia modelos “as-a-service” La IA generativa y la IA agéntica están transformando las redes, las operaciones y la propia naturaleza de la relación con el cliente en las telecomunicaciones. Los proveedores de servicios de comunicaciones (CSP) están pasando de procesos manuales y reactivos a operaciones autónomas, AI-first (la IA primero). Aunque la adopción de IA se acelera, muchos operadores siguen enfrentando: datos fragmentados, sistemas heredados obsoletos y falta de apoyo unificado del liderazgo. Los líderes del sector ven la IA como un motor de crecimiento, resiliencia e innovación. Más de la mitad de los ejecutivos de CSP a nivel global — 54% — esperan que la IA contribuya de forma significativa a los ingresos en los próximos tres años. Una proporción aún mayor, 77% a nivel global, cree que fortalecerá su capacidad de responder a disrupciones del mercado. Este cambio de mentalidad se refleja en prioridades de invers...

Telcos enter the AI: more than connectivity

Image
  Telcos enter the AI: more than connectivity  - to as-a-service models Generative and agentic AI are reshaping networks, operations, and the very nature of customer engagement in telecommunications.  Communications service providers (CSPs) are moving from manual, reactive processes to autonomous, AI-first operations.  While AI adoption is accelerating, many operators continue to battle the following: fragmented data, outdated legacy systems, and a lack of unified leadership support. Industry leaders see AI as a driver of growth, resilience, and innovation. More than half of CSP executives globally—54%—expect AI to contribute significantly to revenue within three years.  An even larger share, 77% globally, believes it will strengthen their ability to respond to market disruptions. This shift in mindset is mirrored in shifting investment priorities. Today, 55% of AI spend globally targets efficiency. By 2027, far more investment will be directed toward business m...

Tech Billionaires Have No Answer for What’ll Happen If AI Takes All Jobs "It's clear that a lot of jobs are going to disappear: it's not clear that it’s going to create a lot of jobs to replace that."

Image
      The AI Industry Can’t Profit Unless It Replaces Human Jobs, Warns Man Who Helped Create It "I believe that to make money you’re going to have to replace human labor." (see references at the end of this)  Speaking at a  press conference   last month, Geoffrey Hinton — a pioneer in the field of neural networks, the bedrock of modern AI — remarked that “it’s clear that a lot of jobs are going to disappear: it’s not clear that it’s going to create a lot of jobs to replace that.” Often lauded as a “godfather of AI,” Hinton has gone on the record many times to warn about the social cost of AI solutionism in an economic system driven by profit. “This isn’t AI’s problem,” he continued last month.  “ This is our political system’s problem. If you get a massive increase in productivity, how does that wealth get shared around?” References and full article:   https://futurism.com/future-society/ai-corporations-labor-jobs?utm_source=beehii...

Shadow AI - hablemos de Dinero/Pérdidas

Image
  Por favor leer mi artículo previo referido a este tema.   Entonces, Shadow AI es un ejemplo de una implementación de IA en la que nadie aprobó esa solución. Simplemente existe. Por ejemplo: alguien descargó algo en la nube, incorporó un modelo y listo: está en marcha. Todos los años IBM publica su informe Cost of a Data Breach (Costo de una Filtración de Datos). En ese informe, IBM determina cuánto le cuesta a una organización cuando sufre una filtración o cuando sus datos se ven comprometidos. Uno de los hallazgos del informe: 670.000 dólares más para las organizaciones que tuvieron una filtración de datos y además tenían Shadow AI . O sea, Shadow AI contribuyó a un costo adicional cada vez que ocurría una filtración. Y eso es un GRAN problema. Y a esto se suma que el informe también encontró que el 60% de las organizaciones no tiene implementada una política de gobernanza de IA o de seguridad para protegerse contra Shadow AI. Así que, además de que cuesta más,...

Shadow AI - in money

Image
  Please read my previous blog entry about this:     So, shadow AI, is an example of an AI implementation where no one approved this thing. It just exists. For example: somebody downloaded something into a cloud, put in a model, and they were off to the races. Every year IBM runs a Cost of a Data Breach report.  And in this, IBM figure out how much it costs when an organization has their data breached or has their data compromised.  One of the findings in that report: $670,000 more for organizations that had a data breach and had shadow AI.  So shadow AI contributed to an additional cost whenever a data breach  occurred. So that's a big problem.  Compounding this is the fact that the Cost of a Data Breach report also found that 60% of organizations don't have an AI governance or security policy in place to guard against shadow AI.  So it already costs more if we don't have the guardrails in place to...

Qué es Shadow AI (AI en las sombras, explicado) - riesgos cibernéticos asociados

Image
  Shadow AI puede ser pensado básicamente como:  la nueva forma de “Shadow IT” , pero con herramientas de IA  (ahondaré en esto).  Pasa cuando personas dentro de una organización usan IA—asistentes tipo ChatGPT, plugins del navegador, transcriptores, “copilotos” de código, generadores de imágenes, herramientas de “minutas automáticas”, incluso LLMs locales— sin aprobación formal, sin gobierno, y sin controles de seguridad/compras . Cómo se ve el “Shadow AI” en la vida real? Patrones típicos: Empleados pegan información sensible en herramientas públicas de IA para “resumir” o “reescribir” (contratos, datos de alumnos, datos de pacientes, reportes de incidentes, código fuente, credenciales por accidente). Equipos adoptan SaaS con IA al azar (“prueba gratis” que termina siendo crítico para el negocio). Desarrolladores usan asistentes de programación que envían fragmentos a terceros, o agregan paquetes sugeridos por un LLM. Alguien arma un chatbot interno ...