Tech

Facebook combate terrorismo con inteligencia artificial

La red social admitió que el internet desempeña un papel muy importante en los actos violentos masivos, por lo que quiere evitar que exista algún tipo de propaganda mediante su servicio. 
Jeremy Kahn | Bloomberg
15 junio 2017 16:30 Última actualización 15 junio 2017 17:32
Facebook

Facebook (Bloomberg)

Facebook contrató a más de 150 expertos en contraterrorismo y utiliza cada vez más inteligencia artificial que puede entender el lenguaje y analizar imágenes para tratar de evitar que los delincuentes utilicen su servicio para reclutar y hacerse propaganda.

La empresa ha desplegado un sistema que almacena la huella digital de cualquier video o fotografía que ya se ha eliminado por promover el terrorismo y automáticamente lo reporta a los revisores humanos si alguien intenta volver a publicar este contenido.

También están trabajando con otras compañías del mismo giro para crear una base de datos compartida de estas firmas digitales - conocidas como hashes- para asegurarse de que la gente no pueda simplemente publicar el mismo contenido en Twitter o YouTube.

Una vez que se ha eliminado una cuenta por publicar contenido terrorista, utilizan algoritmos para buscar las páginas y los grupos a los que ese usuario se unió para identificar otras cuentas que también podrían estar promoviendo la violencia.

Este y otros esfuerzos de la compañía los explican Monika Bickert, directora de gestión de políticas globales, y Brian Fishman, director de política antiterrorista, en un post en un nuevo blog que presentaron el jueves.

El blog, llamado "Hard Questions" (preguntas difíciles), abordará debates filosóficos sobre el papel de las redes sociales en la sociedad, lo que debería suceder a la historia digital de una persona después de morir y si son buenas para la democracia. El primer post se refiere a cómo responde la empresa a la propagación del terrorismo on line.

El movimiento es la respuesta de Facebook a la presión de los gobiernos para que hagan más para combatir el terrorismo. Tras los ataques en Londres y Manchester en los últimos cuatro meses, la primera ministra del Reino Unido, Theresa May presionó a otros líderes de las naciones del G-7 a considerar regular más a las empresas en línea para obligarlos a adoptar medidas adicionales contra el contenido extremista.

FUERZA POSITIVA

Mark Zuckerberg, cofundador y CEO de la empresa, también ha estado intentando posicionar a la compañía como una fuerza positiva para construir comunidades tanto en línea como fuera de ella.

El nuevo énfasis de Zuckerberg siguió al escándalo sobre el papel de su compañía en la proliferación de noticias falsas durante la campaña electoral de Estados Unidos el año pasado, así como la propagación del contenido extremo, tales como videos de asesinatos, publicados.

"Aunque la investigación académica halló que la radicalización de miembros de grupos como ISIS y al-Qaeda se produce principalmente fuera de línea, sabemos que internet desempeña un papel - y no queremos que Facebook sea utilizado para ninguna actividad terrorista en absoluto", escribieron Bickert y Fishman.

Durante el año pasado ampliaron su equipo de expertos en contraterrorismo. Muchas de estas personas tienen antecedentes en la aplicación de la ley y en conjunto hablan casi 30 idiomas. Además, tienen miles de empleados y contratistas de todo el mundo que responden a informes de violaciones de sus términos de servicio, ya se trate de intimidación en línea, publicación de pornografía o discurso de odio.

"Queremos encontrar el contenido terrorista inmediatamente, antes de que la gente de nuestra comunidad lo haya visto", escribieron. "La mayoría de las cuentas que eliminamos por terrorismo las encontramos nosotros mismos. Pero sabemos que podemos hacer un mejor uso de la tecnología".