Establecer una agenda de investigación para reducir la dependencia excesiva de la automatización.
Aroyo, AM y col. (2022).
Revista de robótica conductual,
Vuelo. 12, no. 1, Pp. 423-436.
abstracto
Se presta cada vez más atención al concepto de confiabilidad para la inteligencia artificial y la robótica. Sin embargo, la confianza es muy contextual, varía según la cultura y requiere una reflexión sobre la confiabilidad de los demás para ver si hay suficiente evidencia para concluir que estos agentes merecen confianza. Además, se han realizado pocas investigaciones sobre lo que sucede cuando se confía demasiado en robots y sistemas autónomos. Faltan claridad conceptual y un marco común para lidiar con la confianza excesiva. En este artículo proporcionamos una descripción general de los problemas urgentes en el contexto del exceso de confianza y los robots y los sistemas autónomos. Nuestra revisión moviliza conocimientos de discusiones en profundidad de un taller multidisciplinario sobre la confianza en la interacción humano-robot (HRI) celebrado en una conferencia de robótica líder en 2022. Una amplia gama de asistentes contribuyó con su experiencia y permitió la formulación de una agenda de investigación con visión de futuro sobre la dependencia excesiva y los sesgos de automatización en la robótica y los sistemas autónomos. Los puntos centrales son la necesidad de una comprensión multidisciplinaria que se ubique en una perspectiva de ecosistema, la consideración de conceptos adyacentes como el engaño y la antropomorfización, una conexión con la discusión legal en curso a través del tema de la responsabilidad y una comprensión socialmente anclada de la confianza en la educación y la alfabetización es importante. El artículo integra literatura diferente y proporciona una base para una comprensión común de la confianza excesiva en el contexto de HRI.
Desde el fondo
Con el uso cada vez mayor de sistemas automatizados, tanto en el cuerpo como en el cuerpo, la confianza excesiva se está convirtiendo en un tema cada vez más importante. Sin embargo, nuestra descripción general muestra que la literatura sobre la confianza excesiva hasta ahora se ha limitado principalmente a la investigación de HRI y los enfoques psicológicos. Si bien los filósofos, los especialistas en ética, los ingenieros, los abogados y los científicos sociales en general tienen mucho que decir sobre la confianza y la tecnología, existe una falta de claridad conceptual y un marco común para lidiar con la confianza excesiva. Nuestro objetivo en este artículo no fue proporcionar un marco general, sino más bien promover un mayor diálogo desde una perspectiva interdisciplinaria, integrar la literatura diferente y crear una base para un entendimiento común.