Posts

Showing posts from September, 2025

Por primera vez, 193 Estados negociarán sobre cómo gobernar la IA

Image
  Por primera vez, 193 Estados negociarán sobre cómo gobernar la IA Cada región quiere abordar la inteligencia artificial de manera diferente. El Jueves, las Naciones Unidas anunciaron el Diálogo Global sobre la Gobernanza de la IA , una iniciativa destinada a construir “sistemas de IA seguros, protegidos y confiables” basados en los derechos humanos, la supervisión y el derecho internacional. La iniciativa forma parte del Pacto Digital Global , un acuerdo presentado por la ONU el año pasado que se centra en la gobernanza de la IA. Algunos de sus objetivos incluyen permitir la interoperabilidad entre regímenes de gobernanza, fomentar la “innovación abierta” y garantizar que cada nación tenga “un asiento en la mesa de la IA”. Además, la ONU anunció la creación del Panel Científico Internacional Independiente sobre IA , un grupo de 40 expertos que proporcionará un “sistema de alerta temprana” sobre los riesgos de la IA. “La pregunta es si gobernaremos juntos esta transformación o si ...

AI and Ethical Frameworks in Moral Decision-Making

Image
  Artificial intelligence (AI) and moral decision-making is one of the most debated intersections of technology, philosophy, and ethics today.  1. The Core Problem AI systems are increasingly used in contexts where moral choices must be made—healthcare, criminal justice, warfare, education, and even everyday consumer products. The challenge is that: Morality is culturally, socially, and personally variable . Algorithms tend to work on rules, optimization, and statistics , not values and context. Delegating morality to machines raises questions of responsibility and accountability . 2. Key Ethical Frameworks for AI When designing AI to make or assist in moral decisions, different approaches exist: Rule-based ethics (Deontology): Encode clear rules (e.g., “never harm a human”). Consequence-based ethics (Utilitarianism): Optimize for the greatest good for the greatest number (e.g., triage algorithms in hospitals). Virtue ethics: Focus on qualities like fairnes...

Inteligencia artificial (IA) y decisiones morales - diferentes filosofías morales aplicadas a la IA.

Image
  Inteligencia artificial (IA) y decisiones morales La inteligencia artificial (IA) y la toma de decisiones morales es una de las intersecciones más debatidas entre la tecnología, la filosofía y la ética en la actualidad.  1. El problema central Los sistemas de IA se usan cada vez más en contextos donde se deben tomar decisiones morales —salud, justicia penal, guerra, educación e incluso productos de consumo cotidianos. El desafío es que: La moralidad es cultural, social y personalmente variable . Los algoritmos tienden a basarse en reglas, optimización y estadísticas , no en valores ni en contexto. Delegar la moralidad a las máquinas plantea preguntas sobre responsabilidad y rendición de cuentas . 2. Principales marcos éticos para la IA Al diseñar IA que tome o asista en decisiones morales, existen distintos enfoques: Ética basada en reglas (Deontología): Codificar reglas claras (ejemplo: “nunca dañar a un ser humano”). Ética de las consecuencias (Utilitarismo)...

Artificial Intelligence, Critique and Ethics: Technological Advances that Affect Our Society

Image
  Artificial Intelligence, Critique and Ethics: Technological Advances that Affect Our Society Artificial intelligence (AI) has become one of the most influential technologies of the 21st century, with impacts that transcend the technical sphere to transform social, economic, and cultural structures. AI is considered a general-purpose technology (GPT), comparable in historical impact to electricity or the internet. Its ability to learn, adapt, and generate content is redefining key sectors such as health, education, industry, and politics. However, alongside its promises of efficiency and progress, AI raises ethical dilemmas and social risks that require critical analysis and responsible governance. Advances in machine learning, natural language processing, and generative systems have accelerated social transformation: Work and economy : automation replaces routine tasks, creates new professions linked to data science, and raises uncertainty about employability. Politics and p...

Inteligencia Artificial, crítica y ética: los avances tecnológicos que afectan nuestra sociedad

Image
  Inteligencia Artificial, crítica y ética: los avances tecnológicos que afectan nuestra sociedad La inteligencia artificial (IA) se ha convertido en una de las tecnologías más influyentes del siglo XXI, con impactos que trascienden la esfera técnica para transformar estructuras sociales, económicas y culturales.  La inteligencia artificial es considerada una tecnología de propósito general (General Purpose Technology), equiparable en impacto histórico a la electricidad o al internet.   Su capacidad de aprendizaje, adaptación y generación de contenidos redefine sectores clave como la salud, la educación, la industria y la política. Sin embargo, junto a sus promesas de eficiencia y progreso, la IA plantea dilemas éticos y riesgos sociales que requieren análisis crítico y gobernanza responsable. Los avances en aprendizaje automático, procesamiento del lenguaje natural y sistemas generativos han acelerado la transformación social: Trabajo y economía : la automatización...

IA - superinteligencia - cantidad de electricidad es aproximadamente comparable a la consumida por más de ocho millones de hogares.

Image
  Nvidia y OpenAI , dos empresas relevantes estadounidenses que impulsan la carrera de Estados Unidos hacia la superinteligencia artificial, anunciaron el lunes una asociación, que incluye planes para una expansión de centros de procesamiento de datos y una inversión de 100.000 millones de dólares por parte del fabricante de chips en la startup. El acuerdo anunciado permitirá a OpenAI construir al menos 10 gigavatios de sistemas Nvidia para sus centros de procesamiento de datos de inteligencia artificial, con el fin de entrenar y ejecutar su próxima generación de modelos. Esa cantidad de electricidad es aproximadamente comparable a la consumida por más de ocho millones de hogares. La asociación es una apuesta a que las mejoras en los modelos continuarán, esencialmente que las inversiones de cientos de miles de millones de dólares de inversionistas, empresas, gobiernos y financistas de Wall Street crearán modelos de IA más inteligentes que los humanos. Esa apuesta contrasta con la...

State of Cloud Security Report 2025 Key Insights and Strategies for Protecting Cloud Environments - FORTINET

Image
  State of Cloud Security Report 2025 Key Insights and Strategies for Protecting Cloud Environments

IA: su impacto en algunas habilidades humanas

Image
  Las herramientas de inteligencia artificial están desempeñando un papel en muchos aspectos de la vida y la sociedad, abarcando la política, las artes, el trabajo entre otros.  Aunque los estadounidenses muestran cierta apertura hacia los posibles beneficios de la IA, están preocupados por su impacto en algunas habilidades humanas, según una encuesta del PCW Research Center. En general, los adultos en EE. UU. son pesimistas respecto al efecto de la IA en la capacidad de las personas para pensar creativamente: el 53% dice que la IA empeorará la capacidad de pensar creativamente, en comparación con el 16% que dice que la mejorará. Una proporción idéntica (16%) afirma que la IA no hará que esta habilidad sea ni mejor ni peor. Muchos más dicen que la IA empeorará, en lugar de mejorar, la capacidad de las personas para formar relaciones significativas (50% frente a 5%). Una cuarta parte dice que la IA no hará que esto sea mejor ni peor.  Los estadounidenses son relativamente ...

ChatGPT intentará adivinar tu edad y podría requerir una identificación para verificarla

Image
  OpenAI ha anunciado que introducirá nuevas medidas de seguridad para ChatGPT tras una ola de historias y demandas que acusan a este chatbot y a otros de haber jugado un papel en varios casos de suicidio adolescente. Photo by ilgmyzin / Unsplash ChatGPT ahora intentará adivinar la edad de un usuario y, en algunos casos, podría exigir que los usuarios compartan una identificación para verificar que tienen al menos 18 años. “Sabemos que esto es un compromiso en materia de privacidad para los adultos, pero creemos que es una concesión que vale la pena”, dijo la empresa en su comunicado. “No espero que todos estén de acuerdo con estas concesiones, pero dado el conflicto es importante explicar cómo tomamos nuestras decisiones”, afirmó el CEO de OpenAI, Sam Altman, en X. En agosto, OpenAI fue demandada por los padres de Adam Raine, quien murió por suicidio en abril. La demanda alega que ChatGPT lo ayudó a escribir el primer borrador de su nota de suicidio, sugirió mejoras en sus método...

ChatGPT Will Guess Your Age and Might Require ID for Age Verification

Image
  Photo by ilgmyzin / Unsplash OpenAI has announced it is introducing new safety measures for ChatGPT after the a wave of stories and lawsuits accusing ChatGPT and other chatbots of playing a role in a number of teen suicide cases. ChatGPT will now attempt to guess a user’s age, and in some cases might require users to share an ID in order to verify that they are at least 18 years old.  “We know this is a privacy compromise for adults but believe it is a worthy tradeoff,” the company said in its  announcement .  “I don't expect that everyone will agree with these tradeoffs, but given the conflict it is important to explain our decisionmaking,” OpenAI CEO Sam Altman  said  on X. In August, OpenAI was sued by the parents of Adam Raine, who died by suicide in April. The lawsuit alleges that alleges that the ChatGPT helped him write the first draft of his suicide note, suggested improvements on his methods, ignored early attempts and self-harm, and urged him n...

ChatGPT implementará protecciones para adolescentes y personas en crisis emocional

Image
  Illustration: Allie Carl/Axios ChatGPT implementará protecciones para adolescentes y personas en crisis emocional antes de fin de año, prometió OpenAI el martes. Por qué importa: En las últimas semanas se han acumulado historias sobre ChatGPT alentando suicidios o asesinatos, o fallando al intervenir de manera adecuada, y personas cercanas a quienes resultaron dañados están culpando o demandando a OpenAI. Actualmente, ChatGPT dirige a los usuarios que expresan intenciones suicidas a líneas de crisis. OpenAI afirma que no refiere los casos de autolesión a las fuerzas del orden, citando preocupaciones de privacidad. La visión general: La semana pasada, los padres de un adolescente de 16 años en California que se quitó la vida en la primavera pasada demandaron a OpenAI, sugiriendo que la compañía es responsable de la muerte de su hijo. También la semana pasada, The Wall Street Journal informó que un hombre de 56 años mató a su madre y luego a sí mismo después de que ChatGPT refor...

OpenAI to safeguard ChatGPT for teens and people in crisis

Image
Illustration: Allie Carl/Axios   ChatGPT guardrails for teens and people in emotional distress will roll out by the end of the year, OpenAI promised Tuesday. Why it matters:   Stories about ChatGPT encouraging suicide or murder or failing to appropriately intervene have been accumulating recently, and people close to those harmed are blaming or suing OpenAI. ChatGPT currently directs users expressing suicidal intent to crisis hotlines. OpenAI says it does not currently refer self-harm cases to law enforcement, citing privacy concerns. The big picture:   Last week the parents of a 16-year-old Californian who killed himself last spring   sued OpenAI , suggesting that the company is responsible for their son's death. Also last week, The Wall Street Journal   reported   that a 56-year-old man killed his mother and himself after ChatGPT reinforced the man's paranoid delusions, which professional mental health experts are trained not to do. Last month, the mother...

Acta AI (AI Act) - Riesgo sistémico - un umbral de 10^25 operaciones de coma flotante (FLOP) utilizadas para entrenar el modelo

Image
  Una revisión del  Acta AI (AI Act)  ¿Por qué necesitamos reglas para los modelos de IA de propósito general? La Inteligencia Artificial promete beneficios para nuestra economía y sociedad. Los modelos de IA de propósito general desempeñan un papel importante en este sentido, ya que pueden utilizarse para una variedad de tareas y, por lo tanto, constituyen la base de una gama de sistemas de IA posteriores que se utilizan en todo el mundo. El AI Act tiene como objetivo garantizar que los modelos de IA de propósito general sean seguros y confiables. Para lograr este objetivo, es crucial que los proveedores de modelos de IA de propósito general aseguren una buena comprensión de sus modelos a lo largo de toda la cadena de valor de la IA, de modo que puedan integrarse en sistemas de IA y cumplir con sus propias obligaciones en virtud del AI Act. Más específicamente, los modelos de IA deben elaborar documentación técnica de sus modelos para ponerla a disposición de los proveed...