menu-trigger
ESCRIBE LA BÚSQUEDA Y PRESIONA ENTER

IA y el ‘Complejo de Dios

COMPARTIR

···
menu-trigger

IA y el ‘Complejo de Dios

22/11/2019

Podría parecer una paradoja y algo que, por tratarse de Inteligencia Artificial (IA), pensarse que es asunto resuelto, pero no es así...

El sesgo racial y de género en esta industria existe. De hecho hoy es un gran tema de discusión entre especialistas. Por ejemplo, el New York Times habló con mujeres prominentes en el sector, una ellas es Timnit Gebru, investigadora en Google dentro del equipo ético de IA, quien resaltó los orígenes fundamentales del sesgo y el desafío de cambiar la cultura científica.

En este proceso de autorreflexión, se advierte que los científicos desarrolladores de inteligencia artificial son “algunas de las personas más peligrosas del mundo” porque existe una ilusión meritocrática y la ilusión de buscar la “verdad objetiva”.

Se requiere cambiar el sistema educativo de las personas sobre ciencia y tecnología en el mundo. La ciencia actualmente se enseña como una visión objetiva de la nada, desde el punto de vista de nadie. Pero debe haber mucho más trabajo interdisciplinario de género y de conocimiento de las garantías individuales. Es preciso repensar cómo se les enseña a las nuevas generaciones. Evitar que los científicos desarrollen el ‘Complejo de Dios’.

Gebru encabeza la Conferencia Internacional sobre Representaciones de Aprendizaje, que se gestó en Etiopía, luego de que más de la mitad de los oradores negros en IA no obtuvieron visas para Canadá para una conferencia en 2018.

Recientemente la UNESCO publicó un documento titulado “I’d blush if I could:”, (Me sonrojaría si pudiera) en el que señala que los asistentes virtuales son esencialmente “esclavas” diseñadas para seguir órdenes y no abonan a una cultura entre iguales. Unos de los grandes inconvenientes, lamento desilusionar a más de uno, es que todos poseen voz femenina, lo que refuerza de manera negativa los roles de género desiguales en donde, según este informe, la mujer es sometida.

Alexa de Amazon, llamada así por la antigua librería de Alejandría, en el Egipto antiguo, es femenina. Cortana, de Microsoft, fue llamada así por un personaje de inteligencia artificial en la franquicia de videojuegos Halo que se proyecta a sí misma como una mujer ‘sexy’. Siri, de Apple, es un nombre nórdico que significa “mujer hermosa que te conduce a la victoria”. El sistema asistente Google Home tiene un nombre neutral en cuanto al género, pero la voz es, claro, femenina. El empleo de esta tecnología modela la aceptación del acoso sexual y el abuso verbal entre los usuarios móviles.

Adicionalmente, la UNESCO destaca que estas herramientas envían mensajes sobre cómo las mujeres y las niñas deben responder a las solicitudes. Hacen que indirectamente las mujeres sean el “rostro” de los errores del propio asistente. Que en su mayoría fueron diseñados por hombres. Obliga a una voz y personalidad sintética “femenina” a seguir órdenes, lo cual seguro no será aceptado entre grupos feministas. Lo cierto es que no hay forma de quedar bien con todos, ese es el asunto.

Fundador y Presidente del Consejo de Metrics*

Las expresiones aquí vertidas son responsabilidad de quien firma esta columna de opinión y no necesariamente reflejan la postura editorial de El Financiero.