Académico de la Facultad de Ingeniería de la Universidad Panamericana

El Gran Hermano no sólo existe, tiene un cerebro electrónico

Las herramientas de IA les permite a los gobiernos crear perfiles de ciudadanos, donde en algunos casos claman que son capaces de prevenir los crímenes antes de que sucedan.

Imaginen que un día les llegase una notificación de la oficina de impuestos. Esta notificación les dice que ustedes están vendiendo ropa que trajeron de Estados Unidos en su último viaje. Y que ese último viaje fue hace una semana, en el primer vuelo del lunes por Aeroméxico, para ir al aeropuerto tomaron un Uber, que era un Versa color gris, a las ocho de la mañana después de dejar a sus hijos en la escuela. Que hicieron la reserva usando un sitio web de viajes. Además, la oficina de impuestos sabe a quién le vendieron la ropa, las cantidades e incluso la denominación y número de serie de los billetes con los que le pagaron, o el número de transferencia y los bancos origen y destino. Este escenario, en el México de hoy en día, parece de una película de ciencia ficción.

Ahora imaginen que los asaltaron, van al Ministerio Público a levantar su denuncia, y desde el momento que ponen un pie en la puerta, el Ministerio ya sabe la razón por la que están ahí. Es más, el Ministerio les dice quién es el asaltante, dónde vive y todo lo que hizo durante el día. Es más, ya lo tienen bajo custodia, y los bienes que perdiste (los cuales el Ministerio ya sabe perfectamente) están esperando por ti en una caja. Colocas tu denuncia y regresas a tu casa en cuestión de minutos. Esto también parece una obra literaria de futurismo.

Los dos escenarios, con detalles más o detalles menos, podrían ser posibles en China. China es hoy en día el Estado con mayor vigilancia en el mundo, y con el uso de inteligencia artificial pueden hacer uso, en tiempo real, de todos los datos que van capturando de las personas que a diario circulan por las diferentes ciudades en China.

Una investigación del diario estadounidense New York Times mostró el nivel de invasión que hay. De cómo, durante el día, las personas son seguidas de manera virtual por agentes gubernamentales por medio de sus teléfonos. El gobierno puede detectar dónde se encuentran los teléfonos y qué aplicaciones son las que tienen instaladas en los mismos.

No sólo eso, más de la mitad de las cámaras de vigilancia en el mundo están en China. En una provincia de China se tienen más fotos de ciudadanos que en todo Estados Unidos. Cada minuto del día, miles de fotos son tomadas y almacenadas para tener un registro claro de los ires y venires de los ciudadanos de las diferentes ciudades en China.

La razón por la cual existe toda esta vigilancia es obvia. El poder del gobierno central chino se cimbra en el principio de no disentir con el gobierno. Esta constante vigilancia le permite al gobierno saber si hay un grupo de ciudadanos que pueda estar conspirando en contra del gobierno. O si existe una pequeña semilla de incomodidad dentro de la sociedad.

Y es solo con herramientas de IA que toda esta información se puede utilizar. Es imposible para cualquier persona analizar todas las fotos, audio, texto y demás información que el gobierno captura de los ciudadanos. Las herramientas de IA les permiten a los gobiernos crear perfiles de ciudadanos, donde en algunos casos claman que son capaces de prevenir los crímenes antes de que sucedan. Creo que está de sobra, queridos lectores, decirles lo peligroso que puede ser que estos sistemas fallen. Por que podemos tener el caso de que un gobierno termine dependiendo demasiado en un sistema que podría fallar repentinamente.

Es importante considerar quién tiene acceso a estos datos. Es posible que en México este tipo de sistemas se comiencen a adoptar para apoyar la seguridad de los ciudadanos. Pero hay que estar siempre vigilantes de que se haga desde un marco democrático, y que los mecanismos sean transparentes y auditables por parte de los ciudadanos.

Porque al final, los dejo con una pregunta retórica: ¿Qué pasaría en un país como el nuestro si el gobierno tuviese la capacidad de escuchar todas las voces disidentes y tomara acciones para silenciarlas?

COLUMNAS ANTERIORES

Los trabajadores ocultos al servicio de la Inteligencia Artificial
México y la soberanía de la IA

Las expresiones aquí vertidas son responsabilidad de quien firma esta columna de opinión y no necesariamente reflejan la postura editorial de El Financiero.