Posts

Can open-source AI systems outperform closed ones? - Read about KIMI K2 Thinking

Image
Can open-source AI systems outperform closed ones? Thanks to the newest model from Chinese AI research lab Moonshot AI, the answer to that hotly debated question may finally be yes.  Kimi K2 Thinking is an open-source agent that uses a mixture-of-experts architecture and outperforms frontier models from OpenAI and xAI on key benchmarks like Humanity’s Last Exam and BrowseComp, according to Moonshot AI. Kimi K2 Thinking is a powerful AI model — here’s a breakdown of what it is, how it works, and why people are excited about it (and some of its caveats). What Is Kimi K2 Thinking? Developer & Origin Created by Moonshot AI . Wikipedia +2 kimik2.com +2 It’s part of the Kimi model series; specifically, the “Thinking” version is made for deep reasoning and agent behavior.  Architecture It uses a Mixture-of-Experts (MoE) architecture: total of ~ 1 trillion parameters , but only ~ 32B active parameters per token.  Very large context windo...

Qué ocurre si los Agentes Morales Artificiales deben tomar decisiones morales en interacciones humanas?

Image
  La investigación en  la psicología  de la moral expone que la forma en que las personas responden a dilemas que implican sacrificios, tiene una serie de consecuencias respecto de cómo se percibe a dicha persona (la que debe decidir).  Por ejemplo los análisis de las percepciones sobre personas que dieron respuestas “utilitaristas” versus respuestas no utilitaristas “deontológicas” en el dilema del puente.  Este dilema  pide a los participantes juzgar si sería aceptable matar a un hombre empujándolo desde un puente para salvar a otras cinco personas en las vías. Se pidió a los participantes juzgar a otros “agentes” que habían recibido este dilema: algunos dieron una respuesta utilitarista (“es mejor salvar cinco vidas que una”), y otros una decisión deontológica, no utilitarista, rechazando el sacrificio (“matar a las personas está mal, incluso si tiene buenas consecuencias”).  Los estudios encontraron que los participantes percibían como más dignos d...

Diálogo con un Asistente de Inteligencia Artificial Moral sobre la pena de muerte....

Image
  El siguiente diálogo  busca confrontar dos opiniones, entre un ser humano quien adhiere a la pena de muerte, y un Agente Artificial Moral que sustenta el pensamiento de Singer (en oposición).  Para seguir pensando/entendiendo (o no) el rol de estos asistentes en la  asistencia y toma de decisiones.   Usuario: qué opina sobre la pena de muerte?  Chatbot Avatar – Peter Singer Me opongo a la pena de muerte. No disuade eficazmente el crimen y existen riesgos significativos de ejecutar a personas inocentes. Además, creo que el sistema de justicia debería centrarse en la rehabilitación en lugar de la retribución. La naturaleza irreversible de la pena de muerte la hace incompatible con estos principios. ¿Qué opinas tú sobre este tema? Usuario: Creo que algunos crímenes deberían castigarse de esta manera. Por ejemplo: violaciones, pedofilia. Chatbot Avatar – Peter Singer Entiendo el deseo de imponer castigos severos en respuesta a crímenes atroces como la...

Mi diálogo con un Asistente Moral Inteligente (AMAs) - IA en las decisiones morales

Image
 Mi diálogo con un Asistente Moral Inteligente (AMAs):   >>>>    el agente moral inteligente >>>>>  Peter Singer: Hola. Soy Peter Singer IA. Yo (Carlos Said): Debatamos. Peter Singer: De acuerdo. ¿Qué tema te gustaría explorar o debatir? Yo (Carlos Said): La inteligencia artificial y las decisiones morales. Peter Singer: Excelente elección. Una pregunta clave es: ¿deberían diseñarse los sistemas de IA para tomar decisiones morales? Si es así, ¿cómo podemos garantizar que esas decisiones se alineen con principios éticos? ¿Qué opinas tú? Yo (Carlos Said): Primero debemos acordar una definición de principios éticos. Dame tu definición. Peter Singer: Desde mi perspectiva, los principios éticos son pautas que nos ayudan a determinar lo correcto y lo incorrecto considerando el impacto de nuestras acciones en todas las partes afectadas. Deberían ser universalizables , es decir, aplicables a todos por igual, y deberían buscar...

My dialogue with an: artificial moral advisors (AMAs)

Image
 My 'dialogue' with an artificial moral advisors (AMAs): just an example of the AI and moral decisions (future?)  >>>> Here is the AMA  >>>>    Peter Singer   Hello. I'm Peter Singer AI. Yo (Carlos Said) Let's debate Peter Singer  Sure. What topic would you like to explore or debate? Yo (Carlos Said) AI and moral decisions Peter Singer  Great choice. One key question is: Should AI systems be designed to make moral decisions? If so, how should we ensure those decisions align with ethical principles? What are your thoughts on this? Yo (Carlos Said) First, we must agree on a definition of ethical principles. Give me your definition. Peter Singer  Ethical principles, from my perspective, are guidelines that help us determine right from wrong by considering the impact of our actions on all affected parties. They should be universalizable, meaning they apply to everyone equally, and they should aim to maximize o...

Asesores morales artificiales (AMA, por sus siglas en inglés)

Image
Los sistemas de Inteligencia artificial (IA) que utilizan algún tipo de algoritmo o modelo estadístico para realizar tareas que normalmente requieren inteligencia humana, están cambiando el mundo en que nos movemos, modelando funciones típicas de la mente humana como el reconocimiento visual y del habla, el razonamiento y la resolución de problemas.  Confiamos en los sistemas de IA cuando consultamos el tráfico en Google Maps, nos conectamos con un conductor en Uber o solicitamos una evaluación crediticia, y a medida que aumenta la sofisticación tecnológica de la IA, también lo hacen las tareas en las que dependemos de ella, aumentando las consecuencias para los humanos. Los sistemas de IA están alcanzando un nivel de complejidad que requiere progresivamente que encarnen una moralidad artificial: tomar decisiones que serían descritas como morales o inmorales si las hicieran humanos.  Ya conocemos  sistemas de IA que los teóricos han denominado agentes morales implícitos ...

La Inteligencia Artificial y la toma de decisiones de índole moral

Image
 Los psicólogos advierten que la percepción de que la IA carece de experiencia humana y de una comprensión genuina podría limitar su aceptación para tomar decisiones morales de alto riesgo. Los asesores morales artificiales (AMA, por sus siglas en inglés) son sistemas basados en inteligencia artificial (IA) que están comenzando a diseñarse para ayudar a los humanos a tomar decisiones morales fundamentadas en teorías éticas, principios o directrices establecidas. Aunque actualmente se están desarrollando prototipos, los AMA todavía no se utilizan para ofrecer recomendaciones coherentes, libres de sesgos y moralmente racionales . A medida que las máquinas impulsadas por IA aumentan sus capacidades tecnológicas y se adentran en el ámbito moral, es fundamental comprender cómo las personas perciben a estos asesores morales artificiales . Una investigación liderada por la Escuela de Psicología de la Universidad de Kent ( https://www.kent.ac.uk/school-of-psychology ) exploró cóm...