¿Cómo puede Facebook combatir el odio?

El verano pasado, Johannes Baldauf, activista de Berlín que lucha contra expresiones de odio, recibió una petición de ayuda inesperada: Facebook.

Baldauf estaba acostumbrado a ver a la red social como parte del problema cuando se trataba de contener la difusión de mensajes extremistas. Ahora le pedían -y a otros activistas- armar una campaña que pudiera contrarrestar la exposición de los alemanes a la ola de noticias falsas y propaganda de derecha que culpaba a la creciente población de inmigrantes y refugiados en Europa.

Baldauf y su equipo de la Fundación Amadeu Antonio se especializan en un arte de internet conocido como "contranarrativa". La idea es aprovechar las mismas herramientas en línea que usan extremistas, pero de una manera que debilita sus mensajes de odio. El grupo creó un meme que se burla sutilmente de personas que culpan a minorías por las mundanas frustraciones, como metros atestados, un mal peinado o un iPhone roto, acompañado por la frase Kein Grund, Rassist zu werden (No hay razón para ser racista). El hashtag se viralizó en Facebook, Instagram y Twitter.

1

La contranarrativa es un elemento poco conocido pero importante de Facebook para combatir el extremismo. El tema ha cobrado nueva urgencia desde la elección de Donald Trump y el surgimiento de partidos de derecha anti-inmigrantes en Europa Occidental y Asia. En Alemania, donde la red tiene 29 millones de miembros, legisladores han introducido una ley que exige a las compañías eliminar en 24 horas el contenido señalado como discurso de odio, con una multa tentativa de 50 millones de euros.

Pese a gastar millones de dólares y contratar ejércitos de personas en todo el mundo para monitorear contenidos, las empresas de medios sociales a menudo no pueden eliminar los mensajes de odio con la suficiente rapidez. Los extremistas abren cuentas tan rápido como se las cierran, y es fácil que los filtros fallen. Por eso Facebook espera que activistas como Baldauf ayuden a luchar contra el extremismo y el odio desde raíz.

El año pasado, Sheryl Sandberg, directora de operaciones de Facebook, viajó a Berlín para anunciar Online Civil Courage Initiative (OCCI). El proyecto, inicialmente respaldado por un millón de euros, distribuye pequeñas subvenciones y créditos publicitarios a organizaciones anti-extremistas para ayudar a producir campañas anti-odio.

La inversión de Facebook en la contranarrativa encaja con la nueva agenda presentada por Zuckerberg en febrero. El cofundador quiere que Facebook cambie la naturaleza de las comunidades, no sólo en línea, sino también en el mundo real. Quiere que estas comunidades sean más seguras, inclusivas, solidarias, mejor informadas y más comprometidas con la vida civil. La contranarrativa ofrece una oportunidad de ver cómo esta nueva visión podría materializarse.

Cuando Sandberg anunció OCCI, la compañía quería mostrarse proactiva. El plan era averiguar qué técnicas podrían ser más efectivas y ayudar a miles de activistas a usar ese conocimiento para producir más y mejores campañas de contranarrativa. El proyecto era global, pero Sandberg decidió anunciarlo en Berlín porque el ministro de justicia Heiko Maas había amenazado a Facebook con multarla por favorecer el discurso de odio.

Aun cuando Baldauf trabaja creando memes para combatir propaganda digital extremista, duda de su impacto. Hay, dice, una técnica más eficaz y directa, pero más difícil: usar Facebook y otras redes para identificar y acercarse a jóvenes en peligro de caer bajo la influencia de los grupos de derecha. Además de promover campañas virales como "No hay razón para ser racista", Baldauf y sus colegas peinan las redes buscando señales de cibernautas que podrían estar deslizándose hacia el extremismo de derecha o el radicalismo islámico. Luego tratan de acercarse antes de que los grupos extremistas tengan la oportunidad de hacerlo. A menudo se trata más de proporcionar apoyo emocional o un sentimiento de pertenencia que un debate ideológico.

Luego están las preguntas filosóficas, como reconoció hace unos meses ante periodistas Yann LeCun, director de investigación de IA de Facebook, "¿Cuál es el término medio entre filtrar y censurar?" Zuckerberg, por su parte, parece renuente a implicarse directamente en procurar contranarraciones a los usuarios, pues estos esfuerzos también enfrentan la hostilidad de los grupos de derecha que lo acusan de erigirse en policías del pensamiento y ven a OCCI como un programa de censura. Richard Allan, principal cabildero europeo de Facebook, dice que la compañía no se ha sentido cómoda enfatizando sus campañas de contranarrativa porque son experimentales.

"Tenemos que probar algo, y si es eficaz, debemos escalarlo", dice. Pero mientras tanto, "no queremos sobreestimar lo que estamos haciendo".