Truth Social y la problemática moderación de contenido

Luego de que el FBI cateara la residencia del expresidente Donald Trump, algunos usuarios de la red social Truth Social, la plataforma que él ayudó a crear, provocaron a las personas a responder con violencia.

Antes de que Ricky Shiffer intentara irrumpir en la oficina del FBI en Cincinnati (un hecho que le costó la vida), una cuenta a su nombre publicó un “llamado a las armas” en Truth Social, y pedía a las personas “conseguir lo necesario para preparase para el combate”.

A través de una carta enviada a Truth Social el 19 de agosto, el Comité de Supervisión y Reforma de la Cámara de Representantes del Congreso estadounidense expresó su preocupación por ésta y otras publicaciones, incluida una que decía “¡Al carajo los federales! ¡La Segunda Enmienda no se trata de dispararles a ciervos! ¡Carguen y corten cartucho!” y otra que exhortaba: “¡Ármense! ¡Estamos a punto de entrar en Guerra Civil!”.

La carta, dirigida al exrepresentante republicano Devin Nunes, director ejecutivo de Trump Media & Technology Group, matriz de Truth Social, exigía información sobre qué criterios utiliza la plataforma para decidir qué contenido debe eliminarse y los recursos que dedica a la moderación de contenido. También pedía saber cuántas amenazas contra las agencias federales del orden había identificado desde el cateo de Mar-a-Lago y cuántas de esas publicaciones fueron eliminadas o denunciadas a las autoridades. El Comité presentó consultas similares a Meta Platforms, Twitter, TikTok y otras redes sociales.

Fundada por Trump después de su expulsión de Twitter, Facebook y YouTube a raíz de los disturbios del 6 de enero de 2021 en el Capitolio, Truth Social ha prometido ser un lugar donde sus usuarios puedan decir lo que quieran. Cuando se estrenó en la App Store de Apple en febrero, el sitio se unió a un campo cada vez más concurrido de plataformas “alternativas” dirigidas a una audiencia derechista, incluidos Gettr, Parler y Gab.

Según estimaciones de la firma de inteligencia de mercado Sensor Tower, la aplicación ha sido descargada unas 3.2 millones de veces, muy por detrás de Parler y Gettr (Sensor Tower no pudo proporcionar estimaciones para Gab, que no está disponible en App Store ni en Google Play Store). Pero las descargas han aumentado vertiginosamente desde el allanamiento de la casa de Trump, lo que ilustra cuánto crecen Truth Social y sus pares en los conflictos políticos.

La retórica violenta se ha intensificado notoriamente en todos estos servicios desde el cateo del FBI a Mar-a-Lago, señala Josephine Lukito, profesora de la Universidad de Texas en Austin. “La redada del FBI ha aumentado esta necesidad de actuar” en la mente de los usuarios, dice. “El discurso ha aumentado, el nivel de frustración ha aumentado”.

Era previsible que Truth Social adoptara una visión más tolerante respecto a contenido que las principales redes sociales consideran inaceptable, es en esencia su razón de existir. Pero lo que sorprende es la forma tan agresiva con la que filtra otra clase de publicaciones. En un informe del 2 de agosto, Cheyenne Hunt-Majer, investigadora del grupo de defensa del consumidor Public Citizen, escribió que compartió una publicación en Truth Social que contenía la frase “el aborto es salud pública”, solo para descubrir que no aparecía visible en el sitio, un proceso que se conoce como shadow-banning o bloqueo disimulado. Hunt-Majer escribió que la publicación reapareció después de que un video de TikTok que hizo sobre el incidente se volvió viral. Pero otra de sus publicaciones en Truth Social (una que decía: “Si no tienes útero ni sabes todo sobre la salud de la mujer, NO tienes derecho a regular el aborto o la anticoncepción”) nunca apareció en su perfil o en su feed.

Varios usuarios de Truth Social también reportaron que sus cuentas fueron suspendidas de forma permanente después de publicar sobre las audiencias celebradas por una comisión legislativa que investiga el asalto al Capitolio. En una declaración al Washington Times, un portavoz de la plataforma respondió que esas acusaciones eran “claramente estúpidas”.

Trump Media & Technology Group no respondió a una solicitud para conocer la moderación de contenido; y ha revelado poco sobre sus directrices, más allá de decir que trabaja con Hive, una startup que analiza publicaciones utilizando inteligencia artificial. A diferencia de algunas redes sociales más grandes, Truth Social no ha desarrollado una forma sencilla para que investigadores independientes disciernan lo que sucede en la plataforma en general.

Los investigadores, por su parte, afirman que las decisiones de moderación de contenido son a menudo inconsistentes. En opinión de la profesora Lukito, al eliminar publicaciones “políticamente disonantes”, Truth Social ha demostrado que está dispuesta a asumir una mano más dura en la moderación de contenido que sus pares como Parler y Gab.

Truth Social ha dicho que trató de usar la moderación de contenido para lograr otro objetivo: cultivar una plataforma sana. Nunes le dijo a Fox News en enero que Truth Social quiere ser “el sitio más familiar de todos”. Empleando la tecnología de Hive, filtra publicaciones que contengan imágenes sexuales, lenguaje obsceno, amenazas de violencia e incitación al odio, dice una persona familiarizada con el tema que pidió anonimato. La plataforma ha adoptado una línea particularmente estricta cuando se trata de contenido sexualizado. Pero sus prácticas están ocasionando que algunas publicaciones presumiblemente inofensivas se filtren como “contenido sensible”, lo que obliga al usuario a clicar antes de verlas. En las últimas semanas, imágenes del dibujo animado Homero Simpson en ropa interior, mujeres en bikini y contenido claramente no sexual terminaron detrás del filtro de contenido sensible.

De acuerdo con Katie Harbath, exdirectora de políticas públicas de Facebook, las redes sociales jóvenes descubren rápidamente lo difícil que es la moderación de contenido. “El diablo se mete en los detalles casi de inmediato”, expresa, “y parece que están tropezándose con eso”.

Una vez que una red como Truth Social promete un enfoque amplio en la libertad de expresión, es probable que cualquier decisión de moderación de contenido que vaya en contra de esa promesa frustre a las personas. “¿Alguien puede decirme por qué esta foto está cubierta con el filtro ‘Contenido sensible’?”, escribió un usuario, refiriéndose a una imagen de un Jesús crucificado sin camisa. “¿Estamos de vuelta en Fascistbook?”.

Estas mismas inconsistencias y deficiencias en la moderación de contenido son las que motivaron que Google Play Store no apruebe aún la distribución y descarga de la aplicación Truth Social. El 19 de agosto Google notificó a la red social que no cumplía con los términos de servicio a los que están sujetas todas las aplicaciones en Google Play, y que para ello era necesario tener sistemas efectivos de moderación de contenido. Por lo tanto, la app sigue sin estar disponible para dispositivos Android.

Revisa aquí la edición más reciente: