Emociones

La fragilidad de las características morales en las intervenciones tecnológicas

J. Fabiano

Neuroética 14, 269-281 (2021).

https://doi.org/10.1007/s12152-020-09452-6

abstracto

Argumentaré que la mejora moral profunda es relativamente propensa a consecuencias inesperadas. En primer lugar, sostengo que incluso un ejemplo aparentemente simple de mejora moral, como el aumento de la cooperación humana, podría conducir de manera plausible a efectos dañinos inesperados. En segundo lugar, generalizo el ejemplo y sostengo que las intervenciones tecnológicas en los rasgos morales individuales a menudo conducen a efectos paradójicos a nivel de grupo. En tercer lugar, sostengo que la mejora moral profunda, cuando se dirige hacia deseos de orden superior (deseos de desear algo), tiende a reforzarse a sí misma e irreversiblemente. En cuarto lugar, sostengo que la compleja historia causal de los rasgos morales, con su frecuencia relativamente alta de contingencias, indica su fragilidad. En conclusión, concluyo que los intentos de mejora moral profunda son más riesgosos que otras tecnologías de mejora. Por ejemplo, uno de los principales problemas que busca resolver la mejora moral es la falta de cooperación entre grupos. Si la humanidad desarrollara y distribuyera una droga que aumenta drásticamente la colaboración entre individuos, probablemente veríamos una disminución paradójica en la colaboración entre grupos y un aumento auto-reforzado en la voluntad de hacer más modificaciones, los cuales son problemas potenciales.

Conclusión: la fragilidad aumenta los riesgos

Cualquier cambio tecnológico significativo en los rasgos morales haría más daño que bien. Los rasgos morales tienen una tendencia particularmente alta a perturbaciones inesperadas, como se muestra en el ejemplo de la cooperación, reforzada por su carácter autoreforzador e irreversible y finalmente, como sugiere su compleja etiología. Incluso la mejora aparentemente más simple, aunque sea un error menor, es probable que produzca resultados negativos significativos. A menos que produzcamos una profunda mejora moral casi perfectamente calibrada, su implementación conlleva grandes riesgos. Es probable que la mejora moral profunda sea difícil de desarrollar de manera segura, pero no necesariamente imposible o indeseable. Dado que una profunda mejora moral podría prevenir riesgos extremos para la humanidad y, en particular, reducir el riesgo de extinción humana, bien podría ser que aún deberíamos intentar desarrollarla. No estoy sugiriendo que nuestras características actuales sean adecuadas para abordar los problemas globales. Por el contrario, hay buenas razones para esperar que habrá mejores propiedades que las tecnologías de mejora podrían generar. Sin embargo, creo que mis argumentos sugieren que también hay propiedades mucho peores y socialmente más disruptivas que son accesibles a través de la interferencia tecnológica.

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba