Las decisiones que toman los expertos humanos pueden ser tan incomprensibles como las que toman los algoritmos, pero no nos damos cuenta.
atravesar emma joven
Suponga que lo condenan por robar un automóvil. ¿Prefieres que un juez decida tu castigo o un algoritmo?
Desde la contratación de nuevos empleados hasta la atención médica y las sanciones penales, los algoritmos reemplazan cada vez más la toma de decisiones humana.Sin embargo, como autor nuevo papelr en Revista de Psicología Experimental: General Tenga en cuenta que el público está cada vez más preocupado cómo Los algoritmos toman decisiones. Por ejemplo, en algunos estados de EE. UU., las empresas que utilizan algoritmos en la contratación ahora están obligadas a explicar los pasos del proceso.
Sin embargo, Andrea Bonezzi y sus colegas de la Universidad de Nueva York argumentan que «este énfasis en hacer que las decisiones algorítmicas sean transparentes, aunque bien motivadas, plantea una paradoja».
Los jueces, los reclutadores y los médicos no necesitan explicar cada decisión. Entonces, ¿por qué tenemos tales problemas cuando los algoritmos hacen lo mismo? El equipo cree que esto se debe a que creemos erróneamente que entendemos las decisiones humanas mejor que las algorítmicas. De hecho, argumentan, los tomadores de decisiones humanos son «a menudo tanto una caja negra como los algoritmos diseñados para reemplazarlos».
Para explorar esto, el equipo realizó una serie de estudios. Primero, se pidió a grupos de participantes en línea que consideraran uno de los tres escenarios en los que un experto humano o un algoritmo tendrían que tomar una decisión. Una situación involucró la evaluación del riesgo de reincidencia del acusado penal, otra fue determinar si una resonancia magnética mostró la presencia de una enfermedad y la última involucró la revisión de entrevistas en video para elegir a quién contratar. Luego, los participantes calificaron qué tan bien entendieron los procesos que usan los humanos o los algoritmos para tomar decisiones. En todos los casos, las personas que leen a los tomadores de decisiones humanos informaron que entendieron el proceso mejor que aquellos que leen algoritmos.
pero primero pregunte a otro grupo de participantes explicar Cómo una persona o un algoritmo realmente tomará estas decisiones. (Se sabe que esta estrategia brinda a las personas una visión más realista de lo que realmente hacen, y de lo que no entienden). Estos participantes dieron a los expertos humanos y a los algoritmos puntajes más bajos por «comprensión» en su proceso de toma de decisiones. un mayor impacto en las puntuaciones asociadas a los expertos humanos, lo que en algunos casos hizo que desaparecieran las diferencias de puntuación entre individuos y algoritmos. «Estos resultados sugieren que los humanos comprenden mejor los delirios humanos que la toma de decisiones algorítmica», concluyó el equipo.
En un experimento en línea posterior, se les dijo a algunos participantes que era fácil para los no expertos evaluar el riesgo de reincidencia del acusado y, por lo tanto, decidir si otorgar la libertad condicional. Esto condujo a su mayor «ilusión de comprensión» del proceso del experto humano, pero no afectó su comprensión informada del proceso algorítmico. Esto sugiere que pensamos que «obtenemos» más las decisiones de los expertos humanos porque proyectamos más de nuestra comprensión de nuestro propio proceso de toma de decisiones en otros que en los algoritmos. Esto puede no ser una sorpresa, pero ayuda a construir el caso del equipo. Lo mismo es cierto para los resultados del tercer experimento.
Aquí, cuando se pidió a algunos participantes que reflexionaran sobre lo que les hizo diferente Esto resultó en una puntuación más baja de «comprensión» para el radiólogo humano o el algoritmo, pero no para el algoritmo. El equipo argumenta que esto sugiere que verse obligados a confrontar cuán diferentes somos de los expertos humanos socava nuestra capacidad de proyectar nuestros propios procesos de toma de decisiones sobre ellos, lo que reduce nuestro prejuicio contra los humanos.
Aún así, hay otras explicaciones de por qué tendemos a confiar más en expertos humanos reconocidos que en algoritmos. Por ejemplo, el proceso para convertirse en juez es muy competitivo y lleva muchos años. No se espera que estos grandes triunfadores revelen su proceso de toma de decisiones, porque sea lo que sea que eso signifique, es plausible que el éxito de su carrera lo signifique. Pero lo mismo es cierto para los algoritmos: datos que muestran que un buen registro de llamadas aliviará las preocupaciones sobre su proceso de toma de decisiones o la aceptación de su juicio.
El equipo cree que los algoritmos «a menudo pueden superar» a los tomadores de decisiones humanos. Concluyeron: es posible que desee respirar hondo porque es una oración larga, pero creo que vale la pena incluirla en su totalidad: «Porque el funcionamiento interno de los algoritmos modernos a menudo es inexplicable y será difícil de entender, pero los algoritmos más precisos pueden terminar». siendo poco práctico y potencialmente perjudicial para el bienestar social sobre las contrapartes humanas menos precisas impuestas en nuestra comprensión autoengañosa». Bastante justo. Pero el calificativo de «más preciso» es importante. Proporcionar evidencia clara relacionada con el reclutamiento, la atención médica y el castigo (y otras áreas donde las decisiones algorítmicas afectan a las personas) seguramente hará más para convencer a un público escéptico de que crea en los algoritmos.
emma joven (@EmmaELYoung) es escritor del personal de BPS
