Hablemos en profundidad de los riesgos de la IA para la sociedad. En términos económicos, culturales, seguridad, etc. Una mirada crítica.
Una mirada crítica seria sobre la IA exige ir más allá de dos extremos igualmente pobres: “la IA resolverá casi todo” y “la IA destruirá la sociedad”. El problema central es otro: la IA puede alterar simultáneamente la distribución del poder económico, la producción cultural, la seguridad, la educación, el conocimiento y la autonomía humana. Cuando esas transformaciones ocurren a gran escala y con enorme velocidad, algunos riesgos dejan de ser tecnológicos y pasan a ser riesgos sistémicos. El International AI Safety Report 2026 utiliza precisamente esta distinción entre riesgos de mal uso, fallos de los sistemas y riesgos derivados de su despliegue generalizado en la sociedad.
1. El problema económico más importante quizá no sea el desempleo
Habitualmente la discusión empieza por “¿la IA quitará puestos de trabajo?”. Es una pregunta relevante, pero demasiado limitada. El problema más profundo es cómo cambia la distribución del valor producido.
Las estimaciones varían según qué se mida. El FMI estimó que aproximadamente el 40% del empleo mundial está expuesto de alguna manera a la IA, llegando a alrededor del 60% en economías avanzadas. La OIT, utilizando una metodología más específica para IA generativa, estimó en 2025 que uno de cada cuatro trabajadores ocupa un puesto con algún grado de exposición. Ambas instituciones advierten que exposición no equivale automáticamente a desaparición del empleo: en muchos casos se transformarán tareas más que puestos completos.
Aquí aparece, sin embargo, una posibilidad incómoda. Supongamos una empresa de 1.000 empleados administrativos que adopta IA y logra producir lo mismo con 700 personas. La productividad aumenta un 30%. Pero nada garantiza que ese 30% se distribuya proporcionalmente entre trabajadores, consumidores y propietarios. Puede traducirse en mejores salarios y jornadas más cortas; o en beneficios extraordinarios, reducción de plantilla y presión salarial.
Por eso productividad y bienestar social no son sinónimos.
La IA podría crear una economía paradójica en la cual se produzca mucho más conocimiento, contenido y servicios con mucho menos trabajo humano, mientras la renta continúa dependiendo fundamentalmente del empleo. Si ese desacople se vuelve importante, aparece una tensión estructural: la sociedad tendría enorme capacidad productiva pero dificultades para distribuir poder adquisitivo.
El problema de la “escalera laboral”
Hay otro riesgo menos evidente. Los puestos junior realizan tradicionalmente tareas que permiten adquirir experiencia: redactar borradores, analizar documentos, escribir código sencillo, hacer investigación básica, preparar informes.
Son precisamente algunas de las tareas más automatizables.
El International AI Safety Report 2026 señala que algunos estudios recientes no encontraron todavía efectos agregados sobre el empleo, pero otros detectaron reducciones en empleo de trabajadores jóvenes en ocupaciones altamente expuestas, mientras los trabajadores experimentados resultaron menos afectados. La evidencia todavía no permite sacar una conclusión definitiva.
Pero plantea una pregunta importante:
si automatizamos el trabajo de los principiantes, ¿cómo produciremos los expertos de dentro de diez años?
Esto podría afectar medicina, programación, ingeniería, derecho, contabilidad, periodismo, investigación y muchas otras profesiones.
2. Concentración económica: la IA puede convertirse en infraestructura de poder
Hay un segundo problema económico posiblemente mayor que la automatización.
Los sistemas de frontera requieren combinaciones extraordinariamente costosas de:
capital + chips + centros de datos + electricidad + talento + datos + infraestructura cloud.
El International AI Safety Report 2026 señala que entrenar modelos líderes puede costar cientos de millones de dólares y que existen importantes asimetrías de información porque muchos datos sobre entrenamiento, evaluación y funcionamiento permanecen bajo control de los desarrolladores.
La OCDE advirtió en julio de 2026 que, aunque existe dinamismo en algunos segmentos del mercado de IA, permanecen riesgos estructurales de concentración, especialmente en hardware y datos. Su investigación más reciente también encuentra una relación entre concentración de innovación en IA y concentración de ventas, aunque el ecosistema sigue siendo dinámico y no todos los efectos apuntan en la misma dirección.
Esto conduce a algo parecido a una nueva capa de infraestructura.
Durante el siglo XX una economía dependía de electricidad, telecomunicaciones, bancos y transporte. Una economía altamente automatizada podría depender además de:
modelos → cloud → chips → plataformas de IA.
Si una pequeña cantidad de compañías controla una parte importante de esa cadena, no controla simplemente un producto. Controla parte de la infraestructura cognitiva de la economía.
Es una diferencia enorme.
3. El riesgo cultural: una sociedad estadísticamente promedio
Aquí aparece uno de los problemas que considero intelectualmente más interesantes.
Los modelos generativos aprenden fundamentalmente de enormes cantidades de cultura previamente producida:
libros, imágenes, música, páginas web, fotografías, software, conversaciones.
Después generan nuevas combinaciones probabilísticas de esos patrones.
Eso puede producir una tendencia hacia lo que podríamos denominar normalización estadística de la cultura.
UNESCO ha advertido específicamente sobre el riesgo de homogeneización algorítmica, dominio de plataformas, uso no autorizado del trabajo creativo y pérdida de diversidad cultural. Su informe sobre IA y cultura plantea que preservar diversidad, soberanía cultural y agencia creativa humana es uno de los problemas centrales de esta transición.
Pensemos en la dinámica.
Un escritor pregunta:
“Escriba una introducción atractiva.”
Un periodista:
“Mejore este titular.”
Un profesor:
“Prepare esta explicación.”
Un diseñador:
“Cree cinco variantes.”
Un músico:
“Componga algo parecido a…”
Cada resultado individual puede ser muy bueno.
Pero si millones de personas trabajan continuamente con modelos entrenados sobre distribuciones similares, aparece una pregunta distinta:
¿puede aumentar la calidad media mientras disminuye la diversidad?
Podríamos terminar produciendo cantidades gigantescas de contenido técnicamente competente pero crecientemente parecido.
UNESCO habla precisamente de outputs estandarizados y previsibles como una preocupación del sector cultural.
4. Un problema todavía más profundo: quién representa al mundo
Los modelos no aprenden “la humanidad” de manera neutral.
Aprenden la humanidad que está digitalizada, disponible, etiquetada y representada en sus datasets.
No todas las culturas tienen la misma presencia digital.
No todos los idiomas.
No todas las formas de conocimiento.
No todas las comunidades.
El International AI Safety Report 2026 señala que el rendimiento de los sistemas puede deteriorarse considerablemente en lenguas y contextos culturales menos representados en sus datos. Cita, por ejemplo, un estudio concreto en el que un modelo obtuvo un rendimiento mucho mayor en preguntas sobre cultura estadounidense que sobre cultura etíope; no debe interpretarse ese estudio como medida universal, pero ilustra el problema de representación.
Para América Latina este punto es particularmente importante.
Podríamos convertir sistemas construidos mayoritariamente sobre corpus de otras regiones en intermediarios habituales para interpretar:
historia, derecho, educación, literatura, negocios y cultura latinoamericana.
Eso crea lo que podríamos llamar dependencia epistemológica algorítmica.
5. La contaminación del ecosistema del conocimiento
Antes de la IA generativa producir un artículo falso, cien fotografías falsas o diez mil comentarios convincentes requería recursos humanos.
Ahora el costo marginal se aproxima a cero.
La consecuencia es fundamental:
la capacidad de producir información crece mucho más rápido que nuestra capacidad de verificarla.
El International AI Safety Report 2026 documenta un incremento considerable de incidentes reportados relacionados con contenido generado por IA desde 2021 y señala que audio, imágenes, texto y vídeo sintéticos son cada vez más convincentes. También advierte que etiquetas y marcas de agua pueden ayudar, pero no resuelven por sí solas el problema.
El problema no es solamente creer cosas falsas.
Existe un segundo efecto más sutil:
el “dividendo del mentiroso”.
Cuando todo puede falsificarse, también una evidencia auténtica puede ser descartada diciendo:
“Eso fue generado por IA.”
Paradójicamente, cuanto mejores sean los deepfakes, menos confiables se vuelven también los documentos verdaderos.
El resultado posible no es simplemente desinformación.
Es erosión general de la confianza epistemológica.
6. Seguridad: la democratización de capacidades peligrosas
Desde el punto de vista de ciberseguridad existe una transformación importante.
Antes, determinadas capacidades requerían conocimientos relativamente elevados:
crear malware, encontrar vulnerabilidades, preparar spear-phishing convincente, automatizar reconocimiento, realizar ingeniería social multilingüe.
La IA reduce parcialmente esa barrera.
El informe internacional de 2026 encuentra evidencia creciente de utilización real de IA en operaciones de ciberataque. Los sistemas actuales ya pueden ayudar a identificar vulnerabilidades, generar código y automatizar algunas fases de una operación, aunque no existe evidencia de ataques completamente autónomos end-to-end generalizados. Y sigue siendo incierto si, en conjunto, estas capacidades favorecerán más al atacante o al defensor.
ENISA también documentó durante 2024-2025 uso de LLM por grupos de amenazas para reconocimiento, ingeniería social, desarrollo de herramientas maliciosas y creación de identidades falsas, además de ataques contra la propia cadena de suministro de IA.
Aquí aparece una característica decisiva de la IA:
es una tecnología dual.
La misma IA que encuentra una vulnerabilidad para repararla puede ayudar a explotarla.
La misma IA que detecta fraude puede generar fraude.
La misma IA que detecta phishing puede escribir phishing.
Estamos ante una posible carrera de automatización entre ataque y defensa.
7. El salto cualitativo serán los agentes
Los chatbots responden.
Los agentes actúan.
Esa diferencia es enorme.
Un chatbot puede decir incorrectamente:
“Debe transferir este archivo.”
Un agente podría:
acceder al archivo → enviarlo → actualizar un registro → ejecutar código → realizar una compra → enviar un correo.
Por eso los errores tienen consecuencias diferentes.
El informe internacional advierte que los agentes reducen las oportunidades de intervención humana y que los errores pueden propagarse entre sistemas cuando varios agentes interactúan. Las técnicas actuales han mejorado mucho la fiabilidad, pero todavía no permiten eliminar completamente los fallos en dominios críticos.
El problema fundamental de los próximos años probablemente será menos:
“¿Puede la IA responder correctamente?”
y mucho más:
“¿Qué autoridad estamos dispuestos a delegarle?”
8. Educación: la paradoja de la asistencia cognitiva
Para una universidad éste puede ser uno de los riesgos más importantes.
La IA hace extraordinariamente barato producir:
resúmenes, ensayos, códigos, respuestas, análisis, presentaciones.
Pero existe una diferencia fundamental entre:
producir una respuesta
y
construir una mente capaz de producirla.
Durante siglos confundimos parcialmente ambos procesos porque escribir un ensayo obligaba a pensar.
Ahora podemos separarlos.
Un alumno puede presentar un excelente trabajo sin haber construido el conocimiento correspondiente.
UNESCO insiste en que la alfabetización en IA debe incluir pensamiento crítico, agencia humana y dimensiones sociales, y ha advertido sobre el riesgo de dependencia cognitiva asociado con la sobreutilización de estos sistemas.
El riesgo no es simplemente “copiar con ChatGPT”.
Es más profundo.
Podríamos empezar a externalizar capacidades cognitivas:
recordar → buscar
buscar → preguntar
analizar → resumir
redactar → generar
programar → solicitar
decidir → recomendar.
A corto plazo aumenta enormemente la productividad.
A largo plazo surge la pregunta:
¿qué capacidades permanecen en el ser humano?
9. Automation bias: cuando dejamos de cuestionar la máquina
Existe además una paradoja psicológica.
Cuanto mejor funciona una tecnología, más confiamos en ella.
Pero cuanto más confiamos, menos la supervisamos.
El International AI Safety Report 2026 revisa experimentos que muestran automation bias: las personas pueden aceptar recomendaciones incorrectas de sistemas automáticos incluso cuando disponen de capacidad para corregirlas. También cita evidencia preliminar de pérdida de destrezas después de utilizar sistemas de asistencia en determinadas tareas médicas, aunque todavía falta evidencia longitudinal suficiente para determinar la magnitud general del fenómeno.
Esto crea una curva peligrosa:
IA mediocre → humano vigila mucho.
IA excelente → humano vigila poco.
IA excelente que ocasionalmente falla → peligro máximo.
Es precisamente el problema clásico de sistemas altamente automatizados.
10. La privacidad entra en una nueva etapa
La preocupación tradicional era:
“¿Qué datos tiene una empresa sobre mí?”
Con IA aparece otra:
“¿Qué puede inferir sobre mí?”
Un sistema puede combinar lenguaje, comportamiento, búsquedas, historial, ubicación aproximada, compras o interacciones para inferir:
preferencias, vulnerabilidades, personalidad, intenciones o probabilidades de comportamiento.
No necesita necesariamente conocer algo directamente.
Puede estimarlo.
Esto transforma vigilancia en algo diferente:
vigilancia predictiva.
Y cuando la predicción se combina con personalización, aparece la posibilidad de adaptar comunicaciones a las vulnerabilidades particulares de cada individuo.
Los estudios revisados por el informe internacional encuentran que los modelos pueden producir contenido persuasivo y que conversaciones más largas y personalizadas pueden aumentar esa capacidad, aunque la evidencia de manipulación masiva en el mundo real sigue siendo limitada.
La última frase es importante.
No sabemos todavía cuánto poder real tendrá esta tecnología sobre sociedades enteras.
Precisamente por eso merece atención.
11. Medio ambiente: la inteligencia también consume electricidad
La IA suele percibirse como algo inmaterial.
Pero detrás de cada modelo existen edificios llenos de GPU, sistemas de refrigeración, redes eléctricas y cadenas internacionales de fabricación de semiconductores.
La IEA estimó que el consumo eléctrico mundial de centros de datos podría pasar de aproximadamente 460 TWh en 2024 a más de 1.000 TWh en 2030 en su escenario base. Esto incluye centros de datos en general, no únicamente IA.
La actualización de la IEA de abril de 2026 señala que el consumo eléctrico de los centros de datos creció aproximadamente 17% durante 2025 y que el de centros específicamente orientados a IA creció aún más rápidamente. También destaca que aplicaciones como generación de vídeo, razonamiento intensivo y agentes pueden consumir órdenes de magnitud más energía que una consulta sencilla de texto.
Tenemos entonces otra paradoja:
la IA puede contribuir a optimizar redes eléctricas, materiales, transporte o eficiencia energética, al mismo tiempo que aumenta significativamente la demanda de infraestructura informática.
El balance final dependerá del uso.
12. Pero el riesgo más profundo es la pérdida gradual de agencia humana
Aquí llegamos, para mí, al núcleo filosófico del problema.
No necesitamos imaginar una superinteligencia rebelándose contra la humanidad para encontrar un riesgo profundo.
Existe uno mucho más cotidiano.
Que progresivamente deleguemos:
qué leer,
qué escribir,
qué comprar,
qué estudiar,
qué investigar,
qué creer,
qué contratar,
qué diagnosticar,
qué priorizar,
qué decidir.
No porque alguien nos obligue.
Sino porque hacerlo resulta más cómodo.
Ese fenómeno puede producir algo parecido a una atrofia de la agencia.
El International AI Safety Report 2026 incluye explícitamente entre los riesgos sistémicos los efectos sobre autonomía, pensamiento crítico, decisiones y mantenimiento de habilidades humanas.
Y ése es probablemente uno de los riesgos menos espectaculares y más profundos.
13. Una forma útil de ordenar todos estos riesgos
Yo los separaría así:
| Dimensión | Riesgo superficial | Riesgo sistémico más profundo |
|---|---|---|
| Economía | pérdida de puestos | concentración de renta y poder |
| Trabajo | automatización | desaparición de vías de aprendizaje profesional |
| Cultura | contenido artificial | homogeneización cultural |
| Información | fake news | pérdida de confianza en toda evidencia |
| Educación | plagio | externalización del pensamiento |
| Seguridad | phishing y malware | automatización del ataque |
| Privacidad | fuga de datos | inferencia masiva sobre las personas |
| Empresas | respuestas incorrectas | dependencia estructural de proveedores |
| Cognición | errores | pérdida de competencias |
| Sociedad | desinformación | debilitamiento de autonomía |
| Infraestructura | consumo computacional | dependencia energética y tecnológica |
| Gobernanza | regulación insuficiente | poder tecnológico más rápido que instituciones |
Y hay un patrón común detrás de casi todos.
El verdadero problema es la combinación de cuatro propiedades
Escala + velocidad + opacidad + concentración.
Una persona que se equivoca afecta a unas pocas decisiones.
Un algoritmo utilizado por cien millones de personas puede reproducir el mismo error cien millones de veces.
Una persona que intenta manipular tiene tiempo limitado.
Un sistema automatizado puede generar millones de variantes.
Un asesor humano ejerce influencia limitada.
Un sistema personalizado puede acompañar permanentemente a millones de individuos.
Por eso la IA no es solamente otra tecnología digital.
Puede convertirse en algo más parecido a una infraestructura cognitiva global.
Y ésa cambia fundamentalmente la discusión.
La pregunta importante deja de ser:
“¿Es buena o mala la IA?”
y pasa a ser:
¿Qué capacidades humanas, decisiones sociales e infraestructuras críticas estamos dispuestos a delegar, a quién se las estamos delegando y qué mecanismos conservamos para recuperar el control?
Ése, en mi opinión, es el marco más útil para una crítica seria de la IA.
Referencias
Bengio, Y., Clare, S., Prunkl, C., Murray, M., Andriushchenko, M., Bucknall, B., Bommasani, R., Casper, S., Davidson, T., Douglas, R., Duvenaud, D., Fox, P., Gohar, U., Hadshar, R., Ho, A., Hu, T., Jones, C., Kapoor, S., Kasirzadeh, A., ... Mindermann, S. (2026). International AI Safety Report 2026. Department for Science, Innovation and Technology. International AI Safety Report 2026
European Union Agency for Cybersecurity. (2025). ENISA threat landscape 2025. Publications Office of the European Union. https://doi.org/10.2824/1946374 ENISA Threat Landscape 2025
Georgieva, K. (2024, January 14). AI will transform the global economy. Let’s make sure it benefits humanity. International Monetary Fund. International Monetary Fund
Gmyrek, P., Berg, J., Kamiński, K., Konopczyński, F., Ładna, A., Nafradi, B., Rosłaniec, K., & Troszyński, M. (2025). Generative AI and jobs: A refined global index of occupational exposure (ILO Working Paper No. 140). International Labour Organization. https://doi.org/10.54394/HETP0387 International Labour Organization
International Energy Agency. (2025). Energy and AI. IEA. Energy and AI
International Energy Agency. (2026). Key questions on energy and AI. IEA. Key Questions on Energy and AI
Organisation for Economic Co-operation and Development. (2026). Artificial intelligence markets: Recent developments and competition issues. OECD Publishing. https://doi.org/10.1787/d531d73f-en
UNESCO. (2025). AI and the future of education: Disruptions, dilemmas and directions. UNESCO. Documento UNESCO
.jpeg)
Comments
Post a Comment