‘La Comprensión de la Toma de Decisiones Algorítmicas: Oportunidades y Riesgos’ es un texto sobresaliente respecto a uno de los temas más apasionantes de nuestros tiempos. El manejo de las bases de datos, convertido en complejos Sistemas de Desarrollo Algorítmico (SDA), es ya el motor en que muchas empresas y gobiernos basan mucho de su actuar. Por ende, hay que mantener vista fija, analítica, y asumir acciones inteligentes y responsables en el uso de esa sofisticada tecnología.
Justamente ese es el mérito de tal estudio, del Instituto Nacional de Investigación en Informática y Automatización (INRIA, por sus siglas en francés), a solicitud del Panel para el Futuro de la Ciencia y la Tecnología, del Parlamento Europeo.
Un trabajo completo, para incluir en la agenda del análisis permanente, sobre lo que el título indica: las oportunidades y riesgos que los SDA significan, a la luz de los beneficios de los que ya gozamos con su uso, pero también con la experiencia de daños, injusticias y graves estragos, incluso de alcance nacional o global, que hemos atestiguado y padecido.
En poco más de un centenar de páginas, los autores destacan -junto con amplio conocimiento técnico especializado, muy útil para los avezados en la materia, aunque no restringido a ellos- la necesidad de mantenernos atentos a lo que el desarrollo algorítmico conlleva para quienes toman decisiones, en empresas de cualquier dimensión, hasta los entes públicos que cada día se vuelven más dependientes de aquél para el manejo de áreas tan delicadas como la seguridad, salud, educación, sistemas financieros, políticas de asistencia social y muchos más.
La alimentación responsable, profesional, ética y legal de los datos que se convertirán en los algoritmos que definirán decisiones y políticas no siempre ha sido así manejada. El estudio en referencia destaca que hay errores involuntarios, por distintos tipos de deficiencias, que arrojan malos resultados; sin embargo, no desatienden los sesgos y desvíos perfectamente planificados maliciosamente, para obtener ventaja desleal, a veces ilegal.
En los ámbitos de la iniciativa privada o el sector público, se han padecido las secuelas de graves vicios a raíz de quien abusa de la fuerza algorítmica. Aún en la prensa de varias naciones, como la mexicana, es tema cotidiano el caso del espionaje con el software Pegasus, con sus etiquetas de corrupción institucional, persecución, amenazas e incluso muerte. La interferencia de robots en las redes, en procesos electorales tan relevantes para el mundo todo, como los vividos en Estados Unidos en los dos últimos comicios presidenciales, habla del alcance que estas cada día más poderosas herramientas implican para el destino de naciones y la comunidad internacional.
La investigación del INRIA, junto con el análisis de las áreas de oportunidad y las amenazas de los SDA, también formula sugerencias. De entre ellas, destacamos, como corolario en esta reflexión, la necesidad de revisión y ajuste inteligentes de la legislación aplicable, sin descuidar principios de cuidado técnico, éticos y responsabilidad social que no han de perderse de vista; labor, además, interdisciplinaria forzosamente.