Un nuevo estudio muestra que los usuarios de Reddit con nombres de usuario tóxicos tienen más probabilidades de generar contenido tóxico
Un nuevo estudio descubrió que los usuarios de Reddit con nombres de usuario tóxicos (por ejemplo, IluvHitler) son más propensos a involucrarse en comportamientos tóxicos en línea, como ataques personales y acoso sexual.
El estudio también encontró que los usuarios con nombres de usuario tóxicos tenían 2,2 veces más probabilidades de ser prohibidos por los moderadores.
El estudio, realizado por investigadores de universidades de Polonia y Japón, se publicó en la revista el 1 de julio de 2022. Las computadoras en el comportamiento humano.
¿Qué hay en un nombre de usuario tóxico?
Para determinar la toxicidad del nombre de usuario, los investigadores se basaron en un sistema desarrollado por una empresa llamada Samurai Labs.
El sistema divide la «toxicidad del nombre de usuario» en categorías como ofensivo (incluido el lenguaje racista, homofóbico o violento), profano (incluidas las típicas malas palabras), sexual e inapropiado (incluidas las drogas o la fisiología humana, pero excluyendo lo explícitamente vulgar). Idioma).
También detecta trucos comunes utilizados para ocultar nombres de usuario potencialmente ofensivos, como Por ejemplo, deletrear nombres al revés, intercambiar letras, leetspeak y errores ortográficos intencionales.
Medición de la toxicidad en Reddit: los conjuntos de datos
Los investigadores utilizaron dos conjuntos de datos. El primero consistió en 122 000 usuarios de Reddit con nombres de usuario tóxicos (según lo determinado por el sistema Samuarai descrito anteriormente) y 122 000 usuarios de Reddit aleatorios con nombres de usuario neutrales. Estos 244 000 usuarios estuvieron activos en Reddit entre el 12 y el 22 de febrero de 2022.
Asimismo, el segundo conjunto de datos constaba de 207 000 usuarios de Reddit con nombres tóxicos y 207 000 con nombres no tóxicos que estuvieron activos en algún momento entre el 20 de junio y el 9 de julio de 2022.
Los investigadores también utilizaron un método similar para clasificar los comentarios de estos usuarios como tóxicos o no tóxicos, con categorías tóxicas que incluyen agresión personal, acoso sexual, blasfemias, etc.
Para determinar la correlación entre los nombres de usuario tóxicos y las suspensiones de cuentas, seleccionaron aleatoriamente 50 000 usuarios con nombres de usuario tóxicos y 50 000 usuarios con nombres de usuario no tóxicos de cada conjunto de datos.
hallazgos generales
El análisis de los investigadores sugiere que, en general, «los usuarios con nombres de usuario tóxicos producen más contenido tóxico y, a su vez, es más probable que los moderadores los prohíban».
Se espera que un «usuario moderadamente activo con un nombre de usuario tóxico produzca un 38 % más de comentarios tóxicos en un año» que su homólogo de nombre neutral.
Además, encontraron que alrededor del 2,7% de los usuarios tienen nombres de usuario tóxicos.
En promedio, los usuarios con lenguaje sexual o profano en sus nombres de usuario generaron alrededor de un 50 % más de contenido tóxico que los usuarios igualmente activos con nombres de usuario neutrales.
Tal vez como era de esperar, los usuarios con nombres de usuario tóxicos que contenían blasfemias generaron la mayoría de los ataques personales (45 % más que el promedio) y los usuarios con lenguaje sexual en sus nombres de usuario generaron la mayor cantidad de comentarios y acoso sexual (250 % más que el promedio).
¿Por qué algunos usuarios crean tanto contenido tóxico?
Los investigadores dicen que su estudio no abordó las motivaciones de los usuarios para producir contenido tóxico, aunque tienen varias hipótesis.
Por ejemplo, podría ser que «ser una persona conflictiva o tener un trastorno de personalidad» podría obligar a algunos usuarios a atacar a otros usuarios con más frecuencia.
La edad también podría ser un factor, ya que es más probable que los usuarios más jóvenes elijan nombres de usuario deliberadamente provocativos y se comporten de manera disruptiva en línea.
Asimismo, los investigadores teorizan que los usuarios con nombres de usuario controvertidos pueden «atraer más ataques de otros y, por lo tanto, generar más ataques en represalia».
O podría ser «bajo desempeño» en Reddit, lo que significa que aquellos cuyos comentarios a menudo reciben votos negativos tienen más probabilidades de involucrarse en un comportamiento disruptivo.
El contenido tóxico lo produce una minoría de usuarios
Los investigadores señalan que incluso entre los usuarios con nombres de usuario tóxicos, la mayoría (entre el 58 % y el 65 %) lo hace No producir contenido tóxico; esta cifra ronda el 70 % para los usuarios con nombres de usuario neutrales y no tóxicos.
También señalan que es probable que haya «otros tipos de toxicidad que no impliquen un lenguaje agresivo o dañino», que por lo tanto no están incluidos en este estudio.
El «troleo de preocupaciones» es un ejemplo en el que un usuario expresa falsamente su preocupación por otro usuario con el objetivo final de avergonzar o enojar a ese usuario. En este caso, el lenguaje utilizado es ostensiblemente benévolo, pero en realidad es malicioso.
«A la luz de esto», escriben, «es posible que algunas de las cuentas clasificadas como no tóxicas en realidad puedan tener otros tipos de toxicidad».
Otro problema es cómo determinar si un comportamiento en particular es necesariamente tóxico. Reddit está dividido en «millones de comunidades distintas con sus propios códigos culturales únicos», escriben los autores del estudio, por lo que lo que podría considerarse tóxico en una comunidad podría considerarse aceptable en otros lugares.
Por ejemplo, algunas comunidades de Reddit «se crean con el único propósito de burlarse y humillarse unos a otros».
direcciones futuras
Como se mencionó anteriormente, la mayoría de los usuarios con nombres de usuario tóxicos no muestran un comportamiento tóxico.
No obstante, el gran tamaño de las comunidades en línea como Reddit significa que, de manera realista, no se pueden moderar a mano, lo que significa que la IA probablemente tendrá que desempeñar algún papel.
De hecho, la IA puede incluso ser «necesaria para mantener la cordura y la calidad de vida de los moderadores», escriben, especialmente considerando que plataformas como Twitch o Discord «permiten múltiples cambios de nombre para mostrar, lo que hace que sea aún más problemático para los moderadores cambiarlos». «Levántate y responde en consecuencia».
El equipo de investigación también presenta varias direcciones futuras para nuevos estudios, por ejemplo, cómo ayudar a los usuarios problemáticos en lugar de simplemente prohibirlos.
Y encontrar esas soluciones es importante, especialmente a medida que más y más aspectos de la vida cotidiana se trasladan en línea.
«El estudio y la prevención de la toxicidad en línea es particularmente importante», escriben, «porque la exposición a sus diversas formas puede afectar negativamente la salud mental, aumentar la probabilidad de ansiedad, estrés, depresión y pensamientos suicidas, y contribuir al uso de sustancias y la agresión. » .»
Aprender: “Identificación de nombres: Toxicidad de nombres de usuario y comportamiento tóxico real en Reddit”
Autores: Rafal Urbaniak Patrycja Tempska y otros
Publicado en: Las computadoras en el comportamiento humano
Fecha de lanzamiento: 1 de julio de 2022
DOI: https://doi.org/10.1016/j.chb.2022.107371
Foto: a través de Canvas
