Tech

¿Cómo puede Facebook combatir el odio?

Creadores de contenido hostil abren cuentas tan rápido como se las cierran, y es fácil que los filtros fallen, por lo que la plataforma acudió a la contranarrativa de activistas, que mediante campañas e imágenes con mensajes positivos, contraresta el extremismo.
Jeremy Kahn | Bloomberg 
30 mayo 2017 23:50 Última actualización 31 mayo 2017 16:33
Facebook

(Bloomberg)

El verano pasado, Johannes Baldauf, activista de Berlín que lucha contra expresiones de odio, recibió una petición de ayuda inesperada: Facebook.

Baldauf estaba acostumbrado a ver a la red social como parte del problema cuando se trataba de contener la difusión de mensajes extremistas. Ahora le pedían -y a otros activistas- armar una campaña que pudiera contrarrestar la exposición de los alemanes a la ola de noticias falsas y propaganda de derecha que culpaba a la creciente población de inmigrantes y refugiados en Europa.

Baldauf y su equipo de la Fundación Amadeu Antonio se especializan en un arte de internet conocido como “contranarrativa”. La idea es aprovechar las mismas herramientas en línea que usan extremistas, pero de una manera que debilita sus mensajes de odio. El grupo creó un meme que se burla sutilmente de personas que culpan a minorías por las mundanas frustraciones, como metros atestados, un mal peinado o un iPhone roto, acompañado por la frase Kein Grund, Rassist zu werden (No hay razón para ser racista). El hashtag se viralizó en Facebook, Instagram y Twitter.

1
 

 

(Facebook)


La contranarrativa es un elemento poco conocido pero importante de Facebook para combatir el extremismo. El tema ha cobrado nueva urgencia desde la elección de Donald Trump y el surgimiento de partidos de derecha anti-inmigrantes en Europa Occidental y Asia. En Alemania, donde la red tiene 29 millones de miembros, legisladores han introducido una ley que exige a las compañías eliminar en 24 horas el contenido señalado como discurso de odio, con una multa tentativa de 50 millones de euros.

Pese a gastar millones de dólares y contratar ejércitos de personas en todo el mundo para monitorear contenidos, las empresas de medios sociales a menudo no pueden eliminar los mensajes de odio con la suficiente rapidez. Los extremistas abren cuentas tan rápido como se las cierran, y es fácil que los filtros fallen. Por eso Facebook espera que activistas como Baldauf ayuden a luchar contra el extremismo y el odio desde raíz.

La plataforma
Ha sido desde hace tiempo un acelerador del pensamiento extremista, pero ¿puede ser también un vehículo disuasorio?

El año pasado, Sheryl Sandberg, directora de operaciones de Facebook, viajó a Berlín para anunciar Online Civil Courage Initiative (OCCI). El proyecto, inicialmente respaldado por un millón de euros, distribuye pequeñas subvenciones y créditos publicitarios a organizaciones anti-extremistas para ayudar a producir campañas anti-odio.

La inversión de Facebook en la contranarrativa encaja con la nueva agenda presentada por Zuckerberg en febrero. El cofundador quiere que Facebook cambie la naturaleza de las comunidades, no sólo en línea, sino también en el mundo real. Quiere que estas comunidades sean más seguras, inclusivas, solidarias, mejor informadas y más comprometidas con la vida civil. La contranarrativa ofrece una oportunidad de ver cómo esta nueva visión podría materializarse.

Cuando Sandberg anunció OCCI, la compañía quería mostrarse proactiva. El plan era averiguar qué técnicas podrían ser más efectivas y ayudar a miles de activistas a usar ese conocimiento para producir más y mejores campañas de contranarrativa. El proyecto era global, pero Sandberg decidió anunciarlo en Berlín porque el ministro de justicia Heiko Maas había amenazado a Facebook con multarla por favorecer el discurso de odio.

Richard Allan:
"Tenemos que probar algo, y si es eficaz, debemos escalarlo".

Aun cuando Baldauf trabaja creando memes para combatir propaganda digital extremista, duda de su impacto. Hay, dice, una técnica más eficaz y directa, pero más difícil: usar Facebook y otras redes para identificar y acercarse a jóvenes en peligro de caer bajo la influencia de los grupos de derecha. Además de promover campañas virales como “No hay razón para ser racista”, Baldauf y sus colegas peinan las redes buscando señales de cibernautas que podrían estar deslizándose hacia el extremismo de derecha o el radicalismo islámico. Luego tratan de acercarse antes de que los grupos extremistas tengan la oportunidad de hacerlo. A menudo se trata más de proporcionar apoyo emocional o un sentimiento de pertenencia que un debate ideológico.

Luego están las preguntas filosóficas, como reconoció hace unos meses ante periodistas Yann LeCun, director de investigación de IA de Facebook, “¿Cuál es el término medio entre filtrar y censurar?” Zuckerberg, por su parte, parece renuente a implicarse directamente en procurar contranarraciones a los usuarios, pues estos esfuerzos también enfrentan la hostilidad de los grupos de derecha que lo acusan de erigirse en policías del pensamiento y ven a OCCI como un programa de censura. Richard Allan, principal cabildero europeo de Facebook, dice que la compañía no se ha sentido cómoda enfatizando sus campañas de contranarrativa porque son experimentales.

“Tenemos que probar algo, y si es eficaz, debemos escalarlo”, dice. Pero mientras tanto, “no queremos sobreestimar lo que estamos haciendo”.

Todas las notas TECH
Facebook donará 1 mdd a Cruz Roja para reconstrucción tras sismo
Waze te dice dónde están los albergues y qué rutas están cerradas en la capital
Google activa mapa de crisis tras sismo
Ixnamiki Olinki, el robot que ayudará a buscar víctimas del sismo
Empresas telefónicas liberan llamadas y datos
Amazon apoya a Cruz Roja y Uber da viajes gratis a centros de acopio
Popularidad de bitcoin puede derivar en nueva escisión en noviembre
Startup respaldada por Schwarzenegger, en pelea con Tesla
4 formas en las que la tecnología ayuda a salvar vidas luego de una catástrofe
Google habilita Alerta SOS y Localizador de Personas tras sismo
Autobús eléctrico recorre más de mil kilómetros y rompe récord
Intel quiere que mexicanos desarrollen sus próximas patentes
Brooklyn, una de las opciones de Amazon para nueva sede
Fiscalía dio constancia de no antecedentes penales al chofer: Cabify
Boston, el laboratorio de los barcos autónomos
Google 'pone a bailar' a su doodle para festejar a Amalia Hernández
Con ayuda de 'Tláloc', politécnicos producirán energía de las tormentas
¿El lenguaje digital amenaza el idioma español?
Presunto feminicida de Mara Fernanda fue dado de baja de Uber por protocolos de seguridad
El cambio climático hace ruido y esta empresa lo escucha
Científicos buscan revivir a la tortuga extinta de las Galápagos
Planetarios, más recreativos que las salas de cine
La sonda Cassini se desintegró en Saturno
Drones patrullarán zonas delictivas en Zacatecas
4 joyas asiáticas luchan con el iPhone