En el mundo digital actual, los discursos de odio se han convertido en una preocupación creciente. Los algoritmos de las redes sociales tienden a «premiar» los contenidos que generan más interacciones, lo que ha llevado a una mayor viralidad de los discursos de este tipo. Ante este panorama, surge la pregunta: ¿es posible desactivar este mecanismo y poner fin al discurso de odio en línea?
Un estudio reciente realizado por los investigadores Laila A. Wahedi y Daniel Robert Thomas, de Meta (la empresa matriz de Facebook, WhatsApp e Instagram), arroja luz sobre esta cuestión. Publicado en la revista científica PNAS, el estudio titulado «Desactivando el odio: El efecto de expulsar a las organizaciones de odio en su audiencia en línea» confirma hallazgos previos que indican que la expulsión de líderes tóxicos de las redes sociales es eficaz para reducir la difusión de discursos de odio.
Los investigadores identificaron los perfiles más activos en seis comunidades que involucraban a 26,000 usuarios en las redes sociales. Estos líderes tóxicos fueron expulsados de las comunidades, y los resultados fueron sorprendentes. Se destacaron tres conclusiones principales: en primer lugar, después de la expulsión, los usuarios vieron en promedio casi la mitad del contenido de odio por día en comparación con antes de la expulsión. En segundo lugar, el grupo menos afín a estos líderes tóxicos comenzó a recibir contenido más saludable y consumió menos odio, mientras que aquellos más involucrados reaccionaron negativamente y aumentaron su consumo negativo a corto plazo, pero esta tendencia disminuyó en solo dos meses. La tercera conclusión reveló que, en promedio, los usuarios redujeron su consumo total de contenido en aproximadamente un 10%.
¿La expulsión de perfiles tóxicos es la solución?
Estos resultados plantean la siguiente pregunta: si la expulsión de estos perfiles demuestra ser efectiva para limitar el discurso de odio, ¿es este el camino para poner fin a este problema? Dolors Reig, profesora colaboradora de los Estudios de Ciencias de la Información y de la Comunicación de la Universitat Oberta de Catalunya (UOC), afirma: «Debemos defender la libertad de expresión siempre y cuando no atente contra la dignidad de nadie». El cambio en la comunicación que han traído consigo las redes sociales nos ha convertido a todos en micromedios capaces de transmitir nuestro mensaje a las masas. Sin embargo, también han demostrado ser una herramienta poderosa tanto para el cambio social como para la difusión de discursos de odio.
La pandemia de COVID-19 ha exacerbado aún más la propagación de los discursos de odio en las redes sociales. El secretario general de las Naciones Unidas, António Guterres, identificó a la pandemia como el punto de inflexión en el aumento de este tipo de mensajes. En una carta publicada en 2020, hizo un llamado a todos los agentes sociales y políticos para detener esta «oleada de odio y xenofobia». Durante el confinamiento, las redes sociales se convirtieron en una ventana de conexión con el mundo exterior para muchas personas, quienes las utilizaron de forma intensiva para informarse y relacionarse. Sin embargo, este periodo excepcional también generó emociones negativas como miedo, tensión y preocupación, lo que contribuyó a aumentar la crispación y la difusión de discursos de odio en estos espacios virtuales.
Factores psicosociales que impulsan los discursos de odio
Dolors Reig, profesora colaboradora de los Estudios de Ciencias de la Información y de la Comunicación de la Universitat Oberta de Catalunya (UOC), señala que existen diversos factores psicosociales que impulsan la proliferación de los discursos de odio en las redes sociales. Entre ellos se encuentra la presencia de comunidades que promueven y aplauden este tipo de discursos, el anonimato y la distancia emocional que brinda el entorno virtual, la sensación de evasión de responsabilidad y el efecto espiral hacia la transgresión.
La saturación de mensajes en las redes sociales ha llevado a una búsqueda constante de atención, lo que ha llevado a algunos usuarios a volverse cada vez más transgresores para destacar entre la multitud. Incluso algunos políticos han utilizado esta estrategia para ganar popularidad, expresando opiniones provocadoras y burdas.
Silvia Martínez, directora del máster universitario de Social Media: Gestión y Estrategia de la UOC, también destaca el papel de las dinámicas de funcionamiento de ciertas redes sociales en la difusión de discursos de odio. La inmediatez y la brevedad de los mensajes favorecen la viralidad de contenidos viscerales en lugar de racionales y argumentados. La reflexión y el análisis ceden terreno frente a las reacciones automáticas. Además, los algoritmos de las redes sociales tienden a potenciar y dar más visibilidad a los contenidos que generan interacciones, lo cual incluye a menudo los discursos de odio.
Amenazas virtuales: Estudio revela ciberacoso y discurso de odio en redes sociales
El racismo, la xenofobia y la discriminación de género son algunos de los temas que más alimentan el discurso de odio en las redes sociales. Un estudio regional realizado por la Asociación Civil Comunicación para la Igualdad de Argentina y Sentido de Colombia, con el apoyo de la UNESCO, reveló que las mujeres que se expresan a favor de la igualdad de género y los derechos humanos son especialmente blanco de actos de ciberacoso. También se identificaron ataques coordinados contra mujeres parlamentarias, políticas y periodistas con el objetivo de silenciar sus voces y resaltar los aspectos patriarcales de la sociedad.
Sobre el racismo y la xenofobia, el Observatorio Español contra el Racismo y la Xenofobia (OBERAXE) monitorea diariamente el discurso de odio en las redes sociales. En su último boletín de monitorización, se informó que el 55% de los contenidos denunciados fueron retirados por las plataformas. En particular, los discursos de odio dirigidos hacia personas de origen norteafricano y la islamofobia representaron el 60% de esos contenidos.
Si bien el estudio de Laila A. Wahedi y Daniel Robert Thomas muestra la eficacia de la expulsión de perfiles tóxicos para limitar la difusión de discursos de odio, existen desafíos y controversias en torno a esta medida.
Uno de los desafíos es la identificación precisa de perfiles tóxicos y la evaluación de su contenido. La automatización de este proceso puede llevar a errores y a la eliminación injusta de cuentas legítimas. Además, algunos usuarios pueden recurrir a tácticas evasivas para eludir la detección, creando perfiles alternativos o utilizando lenguaje codificado.
Libertad de expresión y discursos de odio: Desafíos y soluciones
La cuestión de la libertad de expresión también surge en este contexto. Algunas personas argumentan que la expulsión de perfiles tóxicos puede ser interpretada como una forma de censura y una limitación a la libertad de expresión. Sin embargo, es importante distinguir entre la libre expresión de opiniones legítimas y la incitación al odio y la violencia, que no están protegidas por la libertad de expresión.
Otro desafío radica en la responsabilidad de las plataformas de redes sociales. A medida que se intensifica la presión para tomar medidas enérgicas contra los discursos de odio, surge la pregunta sobre quién debe ser el encargado de regular y controlar estos contenidos. Algunas plataformas han implementado políticas más estrictas y herramientas de denuncia, pero la efectividad de estas medidas varía y persisten dudas sobre su imparcialidad y transparencia.
En última instancia, abordar el problema de los discursos de odio en las redes sociales requiere de un enfoque multifacético. Además de la expulsión de perfiles tóxicos, es necesario fomentar la educación y conciencia sobre el impacto negativo de los discursos de odio, promover la empatía y el respeto en línea, y trabajar en conjunto con gobiernos, organizaciones y la sociedad civil para crear un entorno en línea más seguro e inclusivo para todos.
18 de junio – Día internacional para contrarrestar el discurso de odio.
¿Crees que las redes sociales están haciendo lo suficiente para combatir el discurso de odio?
Fuente: Comunicado de Prensa
