¿Hasta qué punto la inteligencia artificial (IA) puede influir en nuestras decisiones? Un reciente estudio sugiere que la IA genera una influencia similar a la prueba social en la toma de decisiones.
¿Qué hay de nuevo?
Un estudio de un equipo de la Facultad de Educación de la Adam Mickiewicz University liderado por Michal Klichowski y publicado en frontiers in Psychology muestra el resultado de dos experimentos en los que los participantes tenían que tomar una decisión crítica y urgente. Los resultados muestran la existencia de un mecanismo de prueba IA.
Idea clave
Cuando se busca orientación para la toma de una decisión el comportamiento de una IA se convierte en un punto de referencia de la misma forma que lo haría el comportamiento de otras personas.
¿Cómo funciona?
Es cada vez más frecuente el uso de la IA para la toma de decisiones complejas como puede ser el diagnóstico en medicina. Al mismo tiempo, la evaluación de las decisiones tomadas por la IA se está mostrando comparable a la tomada por el ser humano. Se podría formular la hipótesis de que en caso de necesidad de orientación para la toma de una decisión una persona podría considerar como referencia a la IA (hipótesis prueba IA).
- En el primer experimento se mostró a los participantes una nueva funcionalidad de Facebook en la que se reconocía la imagen de una persona y se mostraba cuántos amigos tenía en Facebook y cuándo fue su último post. A continuación se les presentó un escenario en el qué tenían que elegir de forma inmediata entre un conjunto de seis personas cuál era un terrorista únicamente con la información que proporcionaba la aplicación. Los participantes fueron asignados de forma aleatoria a un grupo que no tuvo ninguna referencia adicional para la toma de decisión y otro grupo que pudo conocer cuál fue la decisión de una IA. Un tercio de los participantes del segundo grupo tomó como referencia la decisión de la IA y eligió al mismo sujeto como terrorista.
- En el segundo experimento se presentó a los participantes una situación similar, pero esta vez observaron la decisión que tomaba un humanoide dotado de IA llamado FI. El 85% de los participantes estuvieron de acuerdo con FI y señalaron que el sujeto elegido por la IA era el terrorista.
Resultados
En el primer experimento, el 35% del grupo de tratamiento eligió la opción sugerida por la IA aunque era una decisión sin ninguna base y que contrastaba con que sólo un 5% del grupo de control tomó esa decisión. El segundo experimento muestra que un 85% de los participantes consideró como correcta la decisión tomada por la IA copiando su comportamiento. Los resultados sugieren la existencia de un mecanismo de influencia denominado prueba IA similar al conocido como prueba social.
¿Por qué importa?
Los resultados muestran que las personas confían en la IA. Esta influencia tendrá un mayor impacto en el futuro en la medida que la IA resulte más confiable en sus decisiones y su despliegue impregne el espacio social. Es necesario el desarrollo de un pensamiento crítico sobre la IA.
Pensamos
El desarrollo del pensamiento crítico sobre la IA, es decir, la alfabetización sobre cómo funciona, cuáles son sus capacidades y cuándo sus opiniones son relevantes es un aspecto clave para la utilización de la misma en la toma de decisiones en medicina.