Por qué las redes aman el odio

Hola, somos de Paraguay. Te preguntarás cómo es que en las dos últimas semanas pasamos de ser confundidos con Uruguay a estar en el top tres de países más odiados después de Argentina y España, según una cuenta random de X. No vamos a asumir que ya conocés la historia, pero digamos que son cosas del fútbol y algo más. Una senadora opositora, Celeste Amarilla, posteó comentarios racistas contra el jugador francés Kylian Mbappé tras el partido que nos eliminó del Mundial. Mbappé repudió sus dichos, el presidente Macron le apoyó, la Cancillería paraguaya emitió un comunicado contra la senadora, y en algún momento, no sabemos cómo, terminamos siendo un país que, para los franceses de las redes, merecía desaparecer por nazi (sí, así es). 

Toda esta locura digital tuvo una consecuencia en el mundo material para la senadora paraguaya, quien, lejos de pedir disculpas por su racismo, mantuvo sus posiciones. La Federación Francesa de Fútbol presentó una denuncia ante la Fiscalía de París, que abrió una investigación contra Amarilla por el “delito de injuria pública agravada por motivos de origen, etnia, nación, raza o religión”, que se castiga con un año de prisión y multa de 45 mil euros. Y con eso surgió la pregunta: ¿pueden enjuiciar a alguien de un país en otro ajeno al suyo por expresiones en redes? Nos pusimos a averiguar. 

Encontramos que, aunque Francia condene a la investigada, es improbable que se ejecute la pena. La abogada Mirta Moragas, experta en derechos humanos y género, nos dijo que, pese a que la senadora fue racista, eso no constituye un delito en Paraguay, donde se publicaron los posteos. Además, tiene inmunidad parlamentaria, lo que dificulta cualquier proceso. 

Esto no significa que la senadora tenga carta blanca para discriminar. La abogada Maricarmen Sequera, directora ejecutiva de Tedic, una organización especializada en DDHH y tecnología, recuerda que el racismo, así como otras expresiones de odio, está prohibido por el estándar interamericano de libertad de expresión, que se fundamenta en la Convención Americana sobre Derechos Humanos, de la que Paraguay es Estado parte.

“Si bien no hay sanciones significativas, este tipo de expresión está prohibido por el impacto negativo que tiene a nivel de derechos humanos”, dice. Explica que se tiene en cuenta quién lo dijo y desde qué posición: no es lo mismo que un anónimo o ciudadano común haga este tipo de comentarios que lo haga una senadora, que tiene un impacto en el interés público, más allá de que su racismo sea contra otra figura pública, como Mbappé.

Racismo, discursos de odio, colonialismo al revés, quién es más o menos nazi; se habló de mucho en estos días de furia en las redes sociales. Unos actores para nada inocentes, dueños de esos espacios, pasaron desapercibidos: las plataformas, diseñadas precisamente para exacerbar nuestras emociones y sacar lo peor de cada uno. 

Lo que está en juego

📊 Tus datos y tu tiempo alimentan la máquina del odio. YouTube no tuvo problema en bloquear la transmisión del Senado paraguayo por un reclamo de copyright de la FIFA debido al uso de imágenes del partido Paraguay-Francia, justo cuando se discutía el caso Amarilla. Sin embargo, los contenidos de violencia de género, racistas (como los posteos de la senadora) o cualquier otro discurso de odio se mantienen, incluso cuando la víctima denuncia.

Para Sequera, esto responde al modelo de negocio de las plataformas, que priorizan contenido que genera morbo para retener a los usuarios más tiempo, permanencia que, a su vez, les permite recolectar más datos y monetizarlos. De acuerdo con la comunidad técnica que participa de los espacios de gobernanza, las big techs tienen hoy la tecnología para actuar con la misma celeridad que en un reclamo de derechos de autor ante los deep fakes y la información falsa, por ejemplo, sobre las vacunas.

“Lo que complejiza los discursos, tanto los de odio como los de cualquier otro, es la subjetividad cultural, territorial, contextual”, advierte la experta.

Además, hoy las plataformas, como Meta, priorizan la inteligencia artificial en sus procesos, entre ellos los de moderación de contenido. No hay una bala de plata en este asunto, pero hay formas de encontrarle la vuelta.

💬 La moderación de contenidos debe ir acompañada del debido proceso. Sequera observa que, si bien las plataformas tienen un rol fundamental, cuando se trata de discursos es complejo asignarles la “responsabilidad absoluta” de bajar de forma automática los contenidos. “Necesitamos mecanismos en los que la persona tenga derecho a defenderse o a exponer su punto de vista y reconocer las sanciones que existen”, dice.

En la misma línea, la Relatoría Especial para la Libertad de Expresión (RELE) de la CIDH señala que las medidas de moderación no deben evaluarse de forma aislada sino desde un enfoque sistémico, es decir, cómo pueden impactar en todo el ecosistema digital para evitar que se traduzcan en censura o afecten de forma desproporcionada la libertad de expresión de la comunidad. Un ejemplo de esto es la Ley contra el Odio en Venezuela, que se utilizó contra cualquier ciudadano crítico al entonces gobierno de Nicolás Maduro. Algunos incluso fueron detenidos por satirizar al expresidente en redes sociales.

🤷 Las plataformas se lavan las manos y dirigen la responsabilidad a los usuarios. Hasta ahora, uno de los tuits de Amarilla tiene un aviso de “visibilidad limitada” por difundir discursos deshumanizantes y en otro aparece una nota de la comunidad que chequea a la senadora. Sin embargo, no hay consenso sobre si el sistema de community notes —que funciona como una autorregulación ejercida por los usuarios de las plataformas— es efectivo contra la desinformación.

Lo que sí sabemos, a partir de un estudio reciente, es que cuando una nota se hace visible junto a un post desinformante, ese contenido tiende a perder tracción: bajan los reposts, likes, respuestas y vistas. Sin embargo, para que una nota acompañe a una publicación desinformante o de odio, debe ser aprobada por otros usuarios y el porcentaje de aprobación es muy bajo. 

En 2025, Meta reemplazó su programa de factchecking por las community notes. Pero en marzo de este año, el Consejo de Supervisión de Meta publicó una opinión consultiva que aboga por un enfoque híbrido entre notas de la comunidad y las verificaciones hechas por periodistas especializados en desinformación.

💚 Más educación antes que punitivismo. El caso de la senadora paraguaya también expuso nuestras contradicciones como país, cuyo lema de “garra guaraní” se hace añicos cuando se confronta con la miseria en la que viven los pueblos indígenas o la discriminación hacia quienes hablan guaraní, pese a ser una de nuestras lenguas oficiales junto al castellano.

Hace más de 20 años, un proyecto de ley contra toda forma de discriminación duerme en los archivos del Congreso paraguayo. Si bien no contempla delitos y penas por expresiones discriminatorias, sí establece otras medidas, como disculpas públicas, procesos educativos y multas. Algo similar plantea la ley de 2022 contra el racismo hacia las personas afrodescendientes, que también establece que el aporte de esta población sea incluido en la enseñanza en las escuelas. A diferencia de Paraguay, Brasil y Ecuador penan el racismo con cárcel.

Para la abogada Mirta Moragas, los esfuerzos para cambiar las conductas racistas deben ser educativos y no punitivos. Reconoce que procesos así llevan tiempo y uno de los grandes obstáculos son los gobiernos conservadores que evitan confrontar las costumbres discriminatorias como el machismo, la LGBTfobia y el racismo hacia indígenas y afrodescendientes. 

¿Conocés alguna iniciativa para combatir el odio? ¿O tenés una idea de cómo podemos hacerlo? Si se te ocurre algo, respondenos a este correo. 

Más información para la acción

• Si te interesa profundizar sobre racismo, género e historia, te invitamos a conocer AfroColectiva, un medio independiente y autogestionado enfocado en visibilizar la cultura afrodescendiente desde una mirada pedagógica (seguiles aquí).
• Y, si esta semana estás por Bogotá,  El Surti te espera en el Festival Gabo. El 25 de jullio en la Librería Ficciones para el Parche impreso: ronda de periodismo en papel con Mutante, Muy Waso, Economía para la Pipol y El Malpensante. Ahí vamos a lanzar nuestro libro Captura: Pensamiento del Sur para recuperar la promesa tecnológica en la carrera de la IA y explorar los formatos editoriales impresos en la era de la inteligencia artificial. Además, nuestros directores Jazmín Acuña y Alejandro Valdez Sanabria, junto a Natalia Ospina, darán un taller sobre Periodismo de Cambio el 26 en el Centro Felicidad Chapinero. Ese mismo día, Jazmín compartirá junto a otras colegas la charla Cuando publicar ya no basta: ¿el periodismo todavía cambia algo? en el Gimnasio Moderno.