La IA llegó para quedarse, pero ¿qué lugar queremos darle en la toma de decisiones?
¿Queremos verla como una herramienta de apoyo para gobiernos y jueces o estamos dispuestos a que desplace el criterio humano?
La diferencia entre ambos escenarios será cada vez más importante conforme estas herramientas se incorporen a las funciones del Estado y su uso tenga consecuencias concretas.
La pregunta alcanza ámbitos tan complejos como el militar y tan cotidianos como el pago de impuestos.
Uno de los ejemplos más cercanos para las empresas mexicanas está en la fiscalización.
El SAT cuenta con una herramienta impulsada por inteligencia artificial capaz de analizar millones de relaciones entre contribuyentes para identificar redes y patrones vinculados con empresas factureras.
El sistema permite encontrar conexiones que antes eran difíciles de advertir y utilizarlas para orientar los procesos de auditoría y fiscalización.
Su uso promete una recaudación más eficiente y una mayor capacidad para detectar operaciones simuladas.
Al mismo tiempo, obliga a cuestionar las implicaciones de que un algoritmo vigile y califique las relaciones entre empresas.
La herramienta, denominada Modelo de Grafos contra factureras, parte de una idea relativamente sencilla.
Cada contribuyente es un punto y las operaciones que realiza forman conexiones con otros puntos.
El resultado es una enorme red que permite mapear relaciones directas e indirectas entre empresas e identificar comunidades, ciclos y rutas que pueden revelar esquemas de operación coordinada.
Para ello, el modelo incorpora información sobre contribuyentes relacionados con operaciones presuntamente inexistentes.
Las ventajas de una herramienta así son claras. El análisis automatizado permite procesar una cantidad de información que difícilmente podría revisar un equipo humano y dirigir los recursos de fiscalización con mayor precisión hacia operaciones con alto nivel de riesgo.
Así, la IA aumenta las posibilidades de detectar agujas en pajares.
Sus bondades son directamente proporcionales a los riesgos. Una conexión dentro de una red no demuestra por sí misma una irregularidad, pues una empresa puede mantener relaciones comerciales legítimas con otra identificada como riesgosa.
Tampoco conocemos la metodología detrás del sistema ni cuándo una acumulación de señales justifica una revisión.
El problema se vuelve especialmente relevante si una alerta de IA conduce a la aplicación del artículo 69-B del Código Fiscal y, con ello, a una presunción de inexistencia de materialidad de operaciones.
La realidad es que el gobierno ya usa inteligencia artificial. Por eso necesitamos reconocer cuándo y para qué la utiliza y, a partir de ahí, analizar su efectividad y pertinencia.
Un sistema algorítmico utilizado únicamente como instrumento de priorización puede ser menos problemático que uno cuyo resultado condiciona directamente una auditoría, activa una presunción o afecta la situación fiscal de una empresa.
La cuestión está en definir hasta dónde queremos que estas herramientas apoyen el ejercicio de las funciones del Estado y a partir de qué punto comienzan a sustituir el criterio de quienes deben ejercerlas.