Ética y psicología: revolución robótica: preocupaciones éticas

Los rápidos avances en computación evolutiva, robótica, impresión 3D y ciencia de materiales permiten sistemas robóticos avanzados que pueden reproducirse y desarrollarse de forma autónoma. La tecnología emergente de la revolución de los robots desafía la ética de la IA existente, ya que la adaptabilidad inherente, la estocástica y la complejidad de los sistemas evolutivos debilitan gravemente el control humano e inducen nuevos tipos de peligro. En este artículo, abordamos la cuestión de cómo se puede gestionar la revolución de los robots de forma responsable para evitar riesgos de seguridad. Discutimos los riesgos relacionados con la multiplicación, el desajuste y la dominación de robots y sugerimos soluciones para un control humano significativo. Estas preocupaciones pueden parecer descabelladas ahora, pero creemos que se debe crear conciencia antes de que la tecnología esté madura.

Conclusión

La evolución de los robots ya no es ciencia ficción. La teoría y los algoritmos están disponibles y los robots ya están evolucionando en simulaciones por computadora que están confinadas de manera segura a los mundos virtuales. Mientras tanto, la tecnología para implementaciones en el mundo real se está desarrollando rápidamente y los primeros robots que se reproducen y desarrollan de forma (semi) autónoma probablemente llegarán al mercado dentro de una década (Hale et al., 2022; Buchanan et al., 2022). La investigación actual en esta área es típicamente curiosa, pero se está volviendo cada vez más orientada a las aplicaciones a medida que los sistemas robóticos en evolución se pueden implementar en entornos hostiles o inaccesibles, como fondos oceánicos, selvas tropicales, minas ultraprofundas u otros planetas en los que evolucionan «en el lugar de trabajo. «sin esa supervisión humana directa se requiere.

Un hallazgo importante de este artículo es que la práctica de la ingeniería de segundo orden, inducida por la revolución de los robots, plantea nuevas preguntas fuera del discurso actual sobre la IA y la ética de los robots. Nuestro mensaje principal es que se debe crear conciencia antes de que la tecnología esté madura y los investigadores y los usuarios potenciales deben discutir cómo se puede gestionar el desarrollo de robots de manera responsable. En particular, la revolución de los robots requiere pautas éticas y metodológicas cuidadosas para minimizar el daño potencial y maximizar los beneficios. Incluso si el proceso evolutivo es funcionalmente autónomo sin un “volante”, todavía implica la necesidad de asignar responsabilidades. Esto es importante no solo para responsabilizar a alguien cuando algo sale mal, sino también para garantizar que las personas asuman la responsabilidad de ciertos aspectos del proceso; sin que las personas asuman la responsabilidad, el proceso no se puede controlar de manera efectiva. Dados los posibles beneficios y daños y los intrincados problemas de control, existe una necesidad urgente de seguir nuestras ideas y pensar más en el desarrollo de robots responsables.