Javier Murillo

El impacto de los algoritmos como 'Black Mirror'

Este año se lanzará oficialmente en algunos países el Sistema de Crédito Social, un ominoso 'puntaje de comportamiento' similar al de la serie administrado por el gobierno chino.

Creo que en el mundo actual hay una división clara entre los usuarios de internet, entre quienes están preocupados y desconfiados por los algoritmos (el conjunto de instrucciones que permite procesar datos y llevar a cabo otras tareas o actividades) y quienes simplemente se dejan llevar por los beneficios, placeres y utilidades de la inteligencia artificial.

El impacto de los algoritmos está comenzando a escalar hasta un grado vertiginoso y, literalmente, miles de millones de personas están sintiendo lo que podríamos llamar efecto dominó. Este año se lanzará oficialmente en algunos países el Sistema de Crédito Social, un ominoso 'puntaje de comportamiento' similar al de Black Mirror administrado por el gobierno chino, del que por cierto, querido lector, puede consultar otras de mis columnas hablando a detalle de esa fascinante experiencia.

Puede que no sea tan malo como ha escuchado, pero aumentará o reforzará el crédito financiero y otros incentivos para toda la población. Hay otros mil millones de algoritmos irreprochables y sin examinar que penden de mil millones de vidas humanas. No exagero.

En el Reino Unido, por ejemplo, pocos olvidarán el algoritmo de nivel A de este año. Los A-levels son exámenes clave para los jóvenes de 18 años. Ahí hacen o deshacen las ofertas universitarias. Covid-19 los canceló. Se preguntó a los profesores qué puntuación habría obtenido cada alumno. Pero el gobierno introdujo estos números en un algoritmo junto con el desempeño anterior de la escuela. ¿Cuál fue el resultado? El 40 por ciento de todas las estimaciones de maestros fueron rebajadas, lo que excluyó la universidad para los chicos de alto rendimiento en áreas desfavorecidas. El primer ministro Boris Johnson se echó atrás, finalmente, culpando a un "algoritmo mutante".

En la Unión Americana no está en su radar pensar en algoritmos gubernamentales terroríficos que funcionan o arruinan vidas. Ellos dejan que las cosas ocurran. A menos que sea un acusado en uno de los estados donde los algoritmos predicen su probabilidad de cometer más delitos y asesoran a los jueces sobre la sentencia. Estos son operados por empresas con fines de lucro y están acusados de perpetuar el racismo, los hombres y mujeres de raza negra resultaban ser más 'delincuentes' que los de piel blanca.

Las fallas reflejan a sus diseñadores 'muy humanos'. Las matemáticas en sí mismas no son racistas, clasistas ni autoritarias. Al igual que con cualquier receta, la calidad de un algoritmo depende de sus ingredientes, y aquellos de nosotros que tenemos que comer el resultado realmente no pensamos lo suficiente en lo que sucedió en la cocina.

Veamos por último el ejemplo de cómo hay algoritmos a los que les permitimos todo de todo, y como dijimos al principio a poca gente le importa. Ningún algoritmo en la Tierra, ni siquiera el sistema de Crédito Social de China, tiene el poder de Mark Zuckerberg. Cada día, casi 2 mil millones de personas visitan Facebook. Casi todos permiten que el algoritmo presente las publicaciones en el orden que la empresa ha determinado que es más probable que los mantenga comprometidos. Oh, sí, por cierto, no se vaya sin dejarme un like.

Fundador y presidente del Consejo de Metrics.

COLUMNAS ANTERIORES

Empoderamiento femenino en la ciencia de datos
La disputa de Musk contra OpenAI

Las expresiones aquí vertidas son responsabilidad de quien firma esta columna de opinión y no necesariamente reflejan la postura editorial de El Financiero.