Tech

Con inteligencia artificial, Facebook 'caza' el contenido terrorista

Este sistema se está volviendo cada vez más experto en detectar el contenido del Estado Islámico y de Al Qaeda, para que sea eliminado de la red incluso antes de ser denunciado por usuarios. 
Jeremy Kahn | Bloomberg
29 noviembre 2017 17:1 Última actualización 29 noviembre 2017 17:2
facebook

facebook

La inteligencia artificial de Facebook se está volviendo cada vez más experta en mantener el contenido terrorista fuera de la red social, según la compañía.

Hoy, el 99 por ciento del contenido de Estado Islámico (EI) y Al Qaeda que Facebook elimina es detectado por la inteligencia artificial (IA) de la compañía antes de que cualquier usuario lo denuncie, dijeron el miércoles Monika Bickert, gerente de política global de Facebook, y Brian Fishman, titular de política antiterrorista de la compañía. Los ejecutivos sostuvieron que, en algunos casos, el software fue capaz de bloquear el contenido antes de que fuera publicado en primer lugar.

No obstante, los ejecutivos advirtieron que las soluciones automáticas de Facebook aún son imperfectas. "Un sistema diseñado para encontrar contenido de un grupo terrorista puede no funcionar para otro debido al lenguaje y las diferencias de estilo en su propaganda", dijeron.

Como resultado, Facebook dijo que había concentrado sus esfuerzos en EI y Al Qaeda, "los grupos terroristas que representan la mayor amenaza a nivel mundial". Facebook espera expandir sus herramientas automáticas para apuntar al contenido de otras organizaciones terroristas que están más centradas en ciertas regiones también, según los ejecutivos.

Facebook ha enfrentado cada vez más críticas en todo el mundo por parte de gobiernos preocupados de que la red social proporcione una plataforma para la propaganda y el reclutamiento terrorista. La primera ministra británica, Theresa May, ha sido particularmente directa en sus ataques contra las compañías de redes sociales y ha intentado reunir a los líderes de otras democracias para imponer una mayor regulación a estas empresas tecnológicas.

En parte como respuesta a ello, Facebook ha unido fuerzas con Microsoft , Twitter y YouTube de Google, una división de Alphabet, para formar el Foro Global de Internet para la Lucha contra el Terrorismo. La agrupación ayuda a las empresas a coordinar sus esfuerzos para combatir el contenido terrorista y compartir ideas con compañías de tecnología más pequeñas. Los grupos terroristas recurren cada vez más a redes sociales más pequeñas y nuevas, ya que han sido sacados de sitios como Facebook, Twitter y YouTube.

El foro también ofrece un espacio para que las empresas de tecnología logren que gobiernos que a menudo son hostiles oigan sus opiniones.

Bickert y Fishman dijeron que todavía se necesitan humanos para organizar las bases de datos de mensajes, videos y fotografías terroristas utilizadas para entrenar el software de IA de Facebook. También se necesitaron expertos humanos para revisar las decisiones tomadas por las herramientas automatizadas, dijeron.

Facebook está contratando más lingüistas, académicos, exmiembros de la policía y exanalistas de inteligencia para realizar estos roles.

Peter Neumann, quien dirige el Centro Internacional para el Estudio del Extremismo Violento y la Radicalización Política en Kings College, Londres, dijo que en los últimos años ha habido una drástica disminución del contenido terrorista en las principales plataformas de redes sociales. Dijo que la inteligencia artificial tenía mucho potencial, pero advirtió que "la IA solo es tan buena como la información que se entrega a las máquinas, y los revisores humanos siguen siendo importantes para reconocer los matices y el contexto".

Neumann dijo que los grupos terroristas se estaban cambiando cada vez más a plataformas más pequeñas, como el servicio de mensajería Telegram, que usa encriptación de extremo a extremo y es más difícil de vigilar.

Por otra parte, Facebook dijo que se había asociado con la organización benéfica de Reino Unido Faith Associates para crear una guía destinada a ayudar a la comunidad musulmana británica a enfrentar el extremismo, el odio y el fanatismo en línea. La guía sugiere técnicas para que los usuarios de Facebook promuevan imágenes positivas de los musulmanes en la red social. Al mismo tiempo, alienta a la gente a denunciar a los usuarios que compartan contenido inspirado en el terrorismo o que alienten a otros a unirse a grupos extremistas.

La guía es parte de la Iniciativa de Coraje Civil Online de Facebook, programa destinado a contrarrestar la propaganda extremista, que la compañía lanzó en junio junto con el centro de estudios británico Instituto para el Diálogo Estratégico.

Todas las notas TECH
¿Te interesa aprender y obtener un mayor grado académico? Esto es para ti
Estas apps ‘trabajan’ en pro del campo mexicano
Fondo invierte en habilidades digitales
10 países que generan la mayor cantidad de residuos electrónicos
EU aprueba cambio histórico al internet
Ser un jedi te costará 6 mil pesos
IA de Google ya encontró dos planetas... y los que le faltan
Esta impresora puede imprimir pastillas y gomitas medicinales en 3D
Desde casas de árbol hasta videojuegos, la nueva tendencia en oficinas
La basura de Apple podría ser el tesoro de India
¿Por qué los fans de Apple no pagan por el iPhone X?
Uber actualizó sus términos y condiciones, ¿ya los leíste?
Facebook quiere más videos y retrasa la aparición de anuncios
5 tips para evitar ofertas falsas en línea en esta Navidad
Mexicanos desarrollan biopelícula que ayudará a regenerar la piel
NASA y Google hallan octavo planeta en sistema solar similar al nuestro
Esta firma japonesa quiere llevar comerciales a la Luna
Más de mil drones iluminaron una ciudad china y así fue como se vio
¿Ya conoces la 'nueva' función de Twitter? Así funciona
Científicos buscan a 25 personas para beber cerveza por 56 días
¡Prepárate para la lluvia de estrellas de las Gemínidas!
Así se ven las ciudades más luminosas de la Tierra desde el espacio
Lo que más preguntaron los mexicanos a Google este año fue…
Esta 'Fuerza' te ayudará a bloquear los spoilers de 'The Last Jedi'
Querido profesor: es posible cambiar la forma en la que das clase