Es necesario tomar una decisión, pero quién debería hacerlo? Inteligencia aumentada - Visualización forzada?

 Es necesario tomar una decisión, pero quién debería hacerlo? Inteligencia aumentada - Visualización forzada?



Yo, un humano… o una inteligencia artificial, una IA?

Los humanos pueden superar a la IA en algunas tareas, pero sabemos  estadísticamente, que la IA hará un mejor trabajo al tomar decisiones ciertas áreas.

Entonces, para una sola decisión, quién debería decidir?

La respuesta es una combinación de curvas, estadísticas y sesgo humano.

Ahondemos:  

Consideremos  un sistema de detección de fraude.

El sistema genera las alertas de transacciones potencialmente fraudulentas.

Los analistas financieros revisan cada alerta.

Se generan miles de eventos cada día y los analistas están cargados de tareas donde el  90 por ciento de esas alertas son falsos positivos.

Un sistema de IA podría ayudar a aliviar la carga de trabajo.

Pero, qué alertas debería gestionar la IA y cuáles debería procesar un analista financiero experto?

Dibujemos un gráfico para responder a la pregunta: Es esto una alerta real?

Entonces, dibujemos un gráfico con un eje X e Y.



El eje Y representa la tasa de éxito. Llega una alerta, hacemos una predicción sobre si es real o no y hacemos un seguimiento para ver si esa predicción resultó ser correcta.

A lo largo del eje X se muestra el puntaje o nivel de confianza.  Un puntaje de confianza de cero  indica que una predicción "piensa" que esto no es una alerta real, sino un falso positivo.

Un nivel de confianza del 100%  significa que es seguro que una predicción es un alerta real.

Una curva de rendimiento de IA se verá  como la que marqué "IA" en el gráfico previo. 

Entonces, si enemos puntajes de confianza muy bajos, lo que indica es: esto no es una alerta real. 

Y puntajes de confianza muy altos, lo que índican es: esto es una alerta real.

Ahora veamos las curvas de desempeño humano. Suelen ser un más planas que las de la "IA".

Entonces la curva de rendimiento humano podría verse como la que denominé "HUMANOS" en el gráfico previo. 

Con un nivel de confianza del 50 por ciento, es probable que un humano haga un mejor trabajo que una IA (ver gráfico previo).

Por qué ocurre lo narrado previamente?

Bueno, cuando una IA está segura de sí misma, tiene un gran rendimiento y supera a los humanos, que pueden perder la consistencia, el enfoque. 

Las IA no se distraen (aunque aún tienen 'alucinaciones').

Pero, por otro lado, cuando una IA no está segura, a menudo en casos complejos o estadísticamente raros, los humanos pueden superar una predicción de IA aportando información y contexto adicionales.

Pueden buscar información o preguntarle a un colega, mientras que la IA se apega a su misma lógica de decisión e información de siempre (puede modificarse con los "RAG").

Entonces, cuando llega una nueva alerta, si la IA asigna un nivel de confianza alto o bajo, entonces es probable que, estadísticamente hablando, haga un mejor trabajo que un analista financiero o de seguridad, para determinar si esa alerta es real o un falso positivo.

Pero esto no debería ser un  juego de suma cero.

No tiene por qué ser IA o humano.

Tenemos una opción más. La inteligencia aumentada combina una decisión humana con la ayuda de IA, y esta curva de rendimiento se sitúa en algún punto intermedio entre ambas.

Y para puntajes de confianza algo bajos y algo altos, los cuales suelen ser un número relevante (en volumen) de predicciones, es la inteligencia aumentada la que tendrá la tasa de éxito más alta.

Para que la inteligencia aumentada sea más efectiva, debemos tener en cuenta el punto del sesgo cognitivo humano.

La forma en que presentamos la información de un algoritmo de IA a un tomador de decisiones humano tiene influencia significativa en la eficacia con la que se utiliza dicha información.

Una "visualización forzada" muestra simultáneamente una recomendación de IA junto con un caso de decisión determinado.

Entonces, por cada alerta de decisión de fraude sobre la que necesito tomar una decisión, yo, como analista humano, también veo la recomendación de la IA.  Y esto puede conducir a algo llamado sesgo de automatización, que es la propensión de los humanos a favorecer las sugerencias de los sistemas automatizados de toma de decisiones e ignorar (o minimizar) la información contradictoria.

En realidad, el que toma las decisiones humanas asume que la IA sabe más y sigue la predicción de la IA a expensas de su propio juicio. 

La "visualización opcional" significa que la recomendación de IA solo se muestra al tomador de decisiones humano cuando este la solicita.

Entonces, una persona ve un caso de decisión y puede pedirle a la IA que presente su recomendación.

Esto supera el sesgo de automatización al darle a la persona tiempo para considerar el caso por sí misma antes de consultar una recomendación de IA.

El ser humano no se ve influenciado excesivamente por lo que piensa la IA porque ha tenido la oportunidad de formarse su propia impresión.

Finalmente:  cuando el tomador de decisiones es una combinación de IA y humano (potencialmente más eficaz), es decir inteligencia aumentada, debemos considerar la forma de presentación, para minimizar el sesgo cognitivo humano en el proceso de toma de decisiones.

Podemos mejorar los resultados de la toma de decisiones si sabemos a quién/es y cómo preguntar. 


Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA