El miércoles di una conferencia en Ferrovalle, en su Semana de la Tecnología. Al final, alguien hizo esta pregunta: ¿hace falta un manual de ética para usar la inteligencia artificial? Qué usar, cómo, cuándo sí y cuándo no.
Mi respuesta fue que sí. Necesitamos entender nuestros propios límites al usarla y, sobre todo, los de nuestra empresa. Se busca una regulación a nivel federal, y mientras llega podemos adaptar a nuestra organización un manual que después se ajuste. La regulación va a llegar, es inevitable, y lo mejor es adaptarnos con tiempo.
Los Gremlins venían con tres reglas y todos nos las sabíamos. Con la IA nadie nos entregó las suyas.Uno de los temas que traté fue el de los agentes, y mi tesis cabe en una línea: la inteligencia artificial tiene que ser supervisada. Supervisar significa que la decisión final sigue siendo de una persona.
Por la tarde di otra conferencia, en COPARMEX Aguascalientes, y un director de empresa me preguntó cómo tendría que ser esa implementación, si requeriría una visión mucho más supervisada. Le contesté con un ejemplo: la elaboración de propuestas para clientes.
Ese proceso tiene subprocesos. Cada uno puede llevarlo un agente de inteligencia artificial, pero entre uno y otro debe haber un humano que revise, autorice y deje pasar al siguiente. Así la supervisión no cae en una sola persona: varias le dan un chequeo constante y paulatino a la misma misión. Eso es tener un humano en el loop: no una persona al final, sino varias a lo largo del camino.
El tiempo para crear algo sigue bajando de forma impresionante. Lo que se evita son los errores de cuando nadie supervisa y todo se delega.
¿Por qué no basta con confiar?
Según un estudio de Harvard y BCG con 758 consultores que usaron GPT-4, en las tareas que la IA hace bien terminaron 25.1% más rápido. En una tarea pensada para que la IA se equivocara, acertaron 19 puntos porcentuales menos.
Misma herramienta. Mismas personas. Y desde fuera no se nota cuál tarea es cuál, porque la IA suena igual de segura en las dos.
Mi lectura es que la IA nos mete sesgos, y el más importante es el de confirmación. Nos pone en zona de confort, y cuando la tecnología nos acomoda así es cuando más errores se cuelan. El diablo está en los detalles, y casi siempre el error vive en uno de ellos.
Con un agente el asunto se pone más serio. Un chat te responde. Un agente actúa: ejecuta comandos, mueve archivos, manda correos. Cuando algo sale mal, ya pasó.
¿Qué delegas y qué supervisas?
Yo trabajo con una regla de tres: delego lo que se puede deshacer, superviso lo que puede equivocarse y no delego lo que firma mi nombre.
Delego: leer y resumir mis bandejas a horas fijas.
Superviso: mensajes y propuestas. Yo apruebo el texto exacto, palabra por palabra.
No delego: nada sale a mi nombre sin mi visto bueno.
Ahí está la diferencia entre un agente delegado y uno supervisado. El delegado trabaja solo porque lo que hace se puede deshacer: si un resumen sale mal, lo corrijo y sigo. El supervisado propone, y yo decido antes de que algo salga, porque un mensaje a mi nombre ya no se regresa.
Ojo con la columna de en medio: es la que más cuesta, porque supervisar implica leer, y leer toma tiempo. Si no puedes dedicarle ese tiempo, esa tarea todavía no debería estar ahí.
Esa hoja, escrita, ya es un manual, y es personal. Cómo la uso yo es distinto a como la usa tu cliente o tu competencia. Hay que hacerla tan tuya que resuelva tu problema, no el de alguien más. Es por eso que la IA te da soluciones personales. Justo a esto se refiere.
Supervisar también se aprende
Una aprobación de un clic, sin leer, no cuenta como supervisión. Mi criterio es que quien supervisa necesita tres cosas: entender qué hizo el sistema, tener tiempo para revisarlo y poder detenerlo. Si falta una de las tres, aprobar se vuelve un trámite.
Eso se entrena. En la sesión 1 de mi próximo curso enseñaré, entre otras cosas, a pasar un documento largo a una síntesis para decidir y a revisar lo que entrega la IA. Todo bajo el lema “Ya conoces las herramientas. Aquí aprendes a usarlas bien.”
Por cierto, tambien voy a dar una sesión cero gratis en YouTube, deberías animarte y animar a tu equipo. ¿Qué pierdes?
El consejo no pedido de hoy: arma esa hoja con tres columnas, delego, superviso y no delego, y acomoda lo que hoy le dejas hacer a la IA en tu trabajo. Son cinco minutos, y mejor si la llenas con tu equipo. Lo que no sepas en qué columna poner es tu primer pendiente.
¿Qué le estás dejando hacer hoy a una IA que ya no se puede deshacer?
