IA Aplicada

Tu IA necesita supervisión. ¿Sabes qué le dejas libre?

Los agentes de IA necesitan supervisión humana para evitar errores: qué tareas delegar, cuáles revisar y cuáles no dejar en manos de la tecnología.

El miércoles di una conferencia en Ferrovalle, en su Semana de la Tecnología. Al final, alguien hizo esta pregunta: ¿hace falta un manual de ética para usar la inteligencia artificial? Qué usar, cómo, cuándo sí y cuándo no.

Mi respuesta fue que sí. Necesitamos entender nuestros propios límites al usarla y, sobre todo, los de nuestra empresa. Se busca una regulación a nivel federal, y mientras llega podemos adaptar a nuestra organización un manual que después se ajuste. La regulación va a llegar, es inevitable, y lo mejor es adaptarnos con tiempo.

Los Gremlins venían con tres reglas y todos nos las sabíamos. Con la IA nadie nos entregó las suyas.Uno de los temas que traté fue el de los agentes, y mi tesis cabe en una línea: la inteligencia artificial tiene que ser supervisada. Supervisar significa que la decisión final sigue siendo de una persona.

Por la tarde di otra conferencia, en COPARMEX Aguascalientes, y un director de empresa me preguntó cómo tendría que ser esa implementación, si requeriría una visión mucho más supervisada. Le contesté con un ejemplo: la elaboración de propuestas para clientes.

Ese proceso tiene subprocesos. Cada uno puede llevarlo un agente de inteligencia artificial, pero entre uno y otro debe haber un humano que revise, autorice y deje pasar al siguiente. Así la supervisión no cae en una sola persona: varias le dan un chequeo constante y paulatino a la misma misión. Eso es tener un humano en el loop: no una persona al final, sino varias a lo largo del camino.

El tiempo para crear algo sigue bajando de forma impresionante. Lo que se evita son los errores de cuando nadie supervisa y todo se delega.

¿Por qué no basta con confiar?

Según un estudio de Harvard y BCG con 758 consultores que usaron GPT-4, en las tareas que la IA hace bien terminaron 25.1% más rápido. En una tarea pensada para que la IA se equivocara, acertaron 19 puntos porcentuales menos.

Misma herramienta. Mismas personas. Y desde fuera no se nota cuál tarea es cuál, porque la IA suena igual de segura en las dos.

Mi lectura es que la IA nos mete sesgos, y el más importante es el de confirmación. Nos pone en zona de confort, y cuando la tecnología nos acomoda así es cuando más errores se cuelan. El diablo está en los detalles, y casi siempre el error vive en uno de ellos.

Con un agente el asunto se pone más serio. Un chat te responde. Un agente actúa: ejecuta comandos, mueve archivos, manda correos. Cuando algo sale mal, ya pasó.

¿Qué delegas y qué supervisas?

Yo trabajo con una regla de tres: delego lo que se puede deshacer, superviso lo que puede equivocarse y no delego lo que firma mi nombre.

Delego: leer y resumir mis bandejas a horas fijas.

Superviso: mensajes y propuestas. Yo apruebo el texto exacto, palabra por palabra.

No delego: nada sale a mi nombre sin mi visto bueno.

Ahí está la diferencia entre un agente delegado y uno supervisado. El delegado trabaja solo porque lo que hace se puede deshacer: si un resumen sale mal, lo corrijo y sigo. El supervisado propone, y yo decido antes de que algo salga, porque un mensaje a mi nombre ya no se regresa.

Ojo con la columna de en medio: es la que más cuesta, porque supervisar implica leer, y leer toma tiempo. Si no puedes dedicarle ese tiempo, esa tarea todavía no debería estar ahí.

Esa hoja, escrita, ya es un manual, y es personal. Cómo la uso yo es distinto a como la usa tu cliente o tu competencia. Hay que hacerla tan tuya que resuelva tu problema, no el de alguien más. Es por eso que la IA te da soluciones personales. Justo a esto se refiere.

Supervisar también se aprende

Una aprobación de un clic, sin leer, no cuenta como supervisión. Mi criterio es que quien supervisa necesita tres cosas: entender qué hizo el sistema, tener tiempo para revisarlo y poder detenerlo. Si falta una de las tres, aprobar se vuelve un trámite.

Eso se entrena. En la sesión 1 de mi próximo curso enseñaré, entre otras cosas, a pasar un documento largo a una síntesis para decidir y a revisar lo que entrega la IA. Todo bajo el lema “Ya conoces las herramientas. Aquí aprendes a usarlas bien.”

Por cierto, tambien voy a dar una sesión cero gratis en YouTube, deberías animarte y animar a tu equipo. ¿Qué pierdes?

El consejo no pedido de hoy: arma esa hoja con tres columnas, delego, superviso y no delego, y acomoda lo que hoy le dejas hacer a la IA en tu trabajo. Son cinco minutos, y mejor si la llenas con tu equipo. Lo que no sepas en qué columna poner es tu primer pendiente.

¿Qué le estás dejando hacer hoy a una IA que ya no se puede deshacer?

Luis González y González

Luis GyG

LuisGyG es conferencista y consultor en inteligencia artificial. Entrena y capacita equipos directivos para integrar tecnología e innovación de forma práctica. Ofrece talleres sobre I.A. en www.LuisGyG.com

COLUMNAS ANTERIORES

Un detector dice 99% de IA. Antes de decidir nada, pide los borradores
Un detector dice 99% de IA

Las expresiones aquí vertidas son responsabilidad de quien firma esta columna de opinión y no necesariamente reflejan la postura editorial de El Financiero.