La futilidad de la ética de la IA

Mann, L. La futilidad de la ética de la IA.

Ética de la IA (2022).

Resumen

A medida que ha aumentado la conciencia sobre el poder y el peligro de la IA, la respuesta dominante ha sido un giro hacia los principios éticos. En los últimos años, se han emitido muchas pautas y códigos de ética de IA tanto en el sector público como en el privado. Sin embargo, estos son principios sin sentido que son cuestionados o inconsistentes, haciéndolos difíciles de aplicar; son principios aislados aplicados en la industria y la educación que ignoran en gran medida la ética; y estos son principios desdentados que no tienen consecuencias y se adhieren a los planes corporativos. Por estas razones, argumento que los principios éticos de la IA son inútiles porque no logran mitigar el daño racial, social y ambiental de las tecnologías de IA de manera significativa. El resultado es una brecha entre los principios elevados y la práctica tecnológica. Incluso cuando se reconoce esta brecha y los principios tienden a «operacionalizarse», la traducción de conceptos sociales complejos en conjuntos técnicos de reglas no es trivial. En un mundo de suma cero, la apelación dominante a los principios de la IA no solo es infructuosa, sino también una distracción peligrosa, que desvía enormes recursos financieros y humanos de actividades potencialmente más efectivas. Para cerrar, destaco enfoques alternativos a la justicia de la IA que van más allá de los principios éticos: pensar de manera más amplia sobre los sistemas de opresión y pensar de manera más estrecha sobre la precisión y la auditoría.

(Corte)

Principios sin sentido

La corriente de códigos, marcos y directrices éticos de IA en los últimos años ha dado lugar a un conjunto correspondiente de principios. De hecho, ahora hay metaencuestas periódicas que intentan cotejar y resumir estos principios. Sin embargo, estos principios son muy abstractos y ambiguos, volviéndose inconsistentes. Mittelstadt sugiere que el trabajo sobre la ética de la IA ha conducido en gran medida a «principios vagos de alto nivel y declaraciones de valores que prometen guiar la acción, pero en la práctica brindan poca orientación concreta y no logran resolver las tensiones políticas y normativas fundamentales incorporadas en conceptos clave». .» . El punto aquí no es discutir las ventajas de un significado sobre otro, sino resaltar una falta fundamental de consenso sobre términos clave. Los valores loables como la «justicia» y la «privacidad» se erosionan cuando se examinan, lo que da como resultado puntos de vista dispares y objetivos profundamente incompatibles.

¿Cuáles son algunos principios generales de la IA? A pesar de la gran cantidad de afirmaciones éticas, Floridy y Coles sugieren que muchos valores se repiten a menudo y se pueden resumir en cinco principios básicos: beneficencia, inocuidad, autonomía, justicia y explicabilidad. Estos ideales suenan muy bien. Después de todo, ¿quién puede estar en contra de las buenas obras? Sin embargo, los problemas surgen inmediatamente cuando comenzamos a definir qué significa beneficencia. Por ejemplo, los Principios de Montreal utilizan el término «bienestar» para sugerir que el desarrollo de la IA debería contribuir al «bienestar de todos los seres sintientes». Si bien esto es encomiable, está claro que hay tensiones aquí que deben tenerse en cuenta. Podríamos pensar, por ejemplo, en cómo la tecnología de la información apoya ciertas nociones de prosperidad humana, permitiendo la comunicación y los negocios mientras alimenta las emisiones de carbono, la degradación ambiental y la crisis climática. En otras palabras, la IA promueve el bienestar de algunos seres (humanos) mientras socava activamente el bienestar de otros.

El mismo problema surge con la Declaración sobre Inteligencia Artificial, Robótica y Sistemas Autónomos. En esta Declaración, la beneficencia se expresa a través del concepto de «sostenibilidad», argumentando que la IA debería contribuir a crear los requisitos básicos para la vida en el planeta. Pocos se opondrían directamente a un objetivo tan loable. Sin embargo, aparentemente hay puntos de vista muy divergentes sobre cómo se debe lograr este objetivo. Los defensores de las intervenciones neoliberales (libre comercio, globalización, desregulación) argumentan que estas intervenciones promueven la prosperidad económica y, en este sentido, sustentan la vida en el planeta. De hecho, incluso la industria del petróleo y el gas aboga por el uso de la IA bajo el paraguas de la sostenibilidad. La sostenibilidad es, por lo tanto, un término muy ambiguo o incluso intelectualmente vacío que abarca actividades e ideologías dispares. En cierto sentido, la sostenibilidad puede significar todo lo que necesita. De hecho, incluso un miembro del grupo europeo denunció las directrices como «lentas» y «deliberadamente vagas», y dijo que «ensalzan cuestiones difíciles», como la explicabilidad a través de la retórica.