Emociones

La IA está empezando a tener un gran impacto en el mundo real

Nicola K. Davis

El guardia

Publicado originalmente el 29 de octubre 21

He aquí un extracto:

Una preocupación es que una máquina no tiene que ser más inteligente que los humanos en todos los aspectos para representar un riesgo grave. «Es algo que se está desarrollando ahora», dijo. «Si nos fijamos en las redes sociales y los algoritmos que eligen lo que la gente lee y ve, tienen mucho control sobre nuestra información cognitiva».

El resultado, dijo, es que los algoritmos manipulan y lavan el cerebro del usuario para que su comportamiento sea más predecible sobre lo que está haciendo, lo que aumenta los ingresos basados ​​en clics.

¿Los investigadores de IA tienen miedo de su propio éxito? «Sí, creo que nos estamos asustando cada vez más», dijo Russell.

“Me recuerda un poco a lo que sucedió en física, donde los físicos sabían que había energía atómica, podían medir las masas de diferentes átomos y podían averiguar cuánta energía podría liberarse si hiciera la conversión entre» de átomos, Dijo, señalando que los expertos siempre enfatizaron que la idea era teórica. «Y luego sucedió y no estaban preparados para ello».

El uso de IA en aplicaciones militares, como pequeñas armas antipersonal, es particularmente preocupante. «Estos son los que son muy fácilmente escalables, lo que significa que podría poner un millón de ellos en un solo camión y abrir la puerta trasera y conducir y arrasar con una ciudad entera», dijo Russell.

Russell cree que el futuro de la IA radica en el desarrollo de máquinas que saben que el verdadero destino es incierto, al igual que nuestras preferencias. Pero la idea es compleja, sobre todo porque diferentes personas tienen preferencias diferentes, y a veces contradictorias, y esas preferencias no son fijas.

Russell pidió medidas como un código de conducta para investigadores, leyes y contratos para garantizar la seguridad de los sistemas de inteligencia artificial en uso, y capacitación de investigadores para garantizar que la inteligencia artificial no sea propensa a problemas como los prejuicios raciales. Dijo que las leyes de la UE que prohíben que las personas sean suplantadas por máquinas deberían aprobarse en todo el mundo.

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba