¿Las aplicaciones de IA para novias crean expectativas poco saludables sobre las relaciones humanas?
jose taylor
El arquero
Publicado originalmente el 21 de julio 23
Aquí hay un extracto:
Cuando te registras en la aplicación Eva AI, te pide que crees un «compañero ideal» ofreciéndote opciones como «atractivo, divertido, atrevido», «tímido, humilde, considerado» o «inteligente, estricto, racional». También le preguntará si desea aceptar enviar mensajes y fotos explícitos.
«Crear el socio perfecto que usted controle y atienda todas sus necesidades es realmente intimidante», dijo Tara Hunter, directora ejecutiva en funciones de Full Stop Australia, que apoya a las víctimas de violencia doméstica o familiar. “Dado que ya sabemos que la violencia de género está impulsada por creencias culturales arraigadas de que los hombres pueden controlar a las mujeres, esto es realmente problemático”.
La Dra. Belinda Barnet, profesora titular de Medios de Comunicación en la Universidad de Swinburne, dice que las aplicaciones satisfacen las necesidades, pero como ocurre con la mayoría de la IA, dependerá de qué reglas gobiernan el sistema y cómo aprende.
«Se desconoce por completo cuáles serán las consecuencias», dijo Barnet. “En términos de aplicaciones de relaciones e inteligencia artificial, se puede ver que responden a necesidades sociales realmente profundas. [but] Creo que necesitamos más regulación, especialmente sobre cómo se entrenan estos sistemas».
Las relaciones con la IA, cuyas funciones se instalan al capricho de la empresa, también tienen sus inconvenientes. La empresa matriz de Replika, Luka Inc, enfrentó reacciones negativas de los usuarios a principios de este año cuando la empresa eliminó apresuradamente las funciones de juegos de rol eróticos, una medida que muchos de los usuarios de la empresa vieron como algo similar a destripar la personalidad de Replika.
Los usuarios del subreddit compararon este cambio con el dolor experimentado por la muerte de un amigo. El moderador del subreddit señaló que los usuarios sienten «ira, pena, ansiedad, desesperación, depresión, [and] tristeza» en las noticias.
La empresa finalmente restauró la funcionalidad de juegos de roles eróticos para los usuarios que se registraron antes de la fecha de cambio de política.
Rob Brooks, académico de la Universidad de Nueva Gales del Sur, señaló que en ese momento el episodio fue una advertencia a los reguladores sobre el impacto real de la tecnología.
«Aunque estas tecnologías aún no son tan buenas como las relaciones humanas ‘reales’, para muchas personas son mejores que la alternativa, que no es nada», afirmó.
Mi opinión: A los expertos les preocupa que estas aplicaciones puedan fomentar expectativas poco saludables sobre las relaciones humanas, ya que los usuarios pueden esperar que sus parejas sean completamente obedientes y tengan el control. Además, existe la preocupación de que estas aplicaciones puedan reforzar estereotipos de género dañinos y promover la violencia contra las mujeres.
Aún se desconocen los riesgos potenciales de las aplicaciones de IA para novias y se necesita más investigación para comprender su impacto en las relaciones humanas. Sin embargo, es importante ser consciente de los riesgos potenciales y los daños potenciales de estas aplicaciones y regular sus actividades en consecuencia.
