Hace un par de semanas me dolía la cabeza y, como hago en esas situaciones, fui a la farmacia y compré paracetamol, de la misma manera que lo he hecho durante los últimos 30 años y que los padres lo han comprado para sus hijos desde hace décadas. Es uno de los medicamentos más utilizados del mundo y se puede encontrar en prácticamente cualquier país. Sin embargo, pese a todos sus beneficios y resultados comprobados, la comunidad científica todavía no comprende por completo cómo funciona ni por qué tiene esos efectos.
Pero confiamos en el medicamento porque contamos con un sistema de controles y contrapesos a su alrededor. En Estados Unidos está la FDA y en México, la COFEPRIS, instituciones que evalúan los beneficios y los posibles daños de los medicamentos y revisan sus efectos secundarios. Estos controles nos ayudan a utilizar el medicamento para aliviar dolores leves, dentro de las dosis recomendadas, aunque no comprendamos por completo su mecanismo.
La semana pasada, OpenAI publicó una gran colección de resultados matemáticos, reportando soluciones a cientos de preguntas abiertas y generando un debate entre matemáticos sobre el lugar de los seres humanos en el campo actual de las matemáticas. A diferencia de lo que ocurre con los medicamentos, existe una fuerte expectativa de que las demostraciones matemáticas contribuyan a la comprensión humana. Revisar estos resultados y comprender su importancia puede requerir un trabajo considerable. OpenAI también proporcionó formalizaciones de muchas de las demostraciones que permiten a las computadoras verificarlas, aunque verificar una demostración no es lo mismo que comprender cada una de sus partes. Esa distinción importa en las matemáticas, donde comprender por qué funciona una demostración es una parte importante de lo que busca lograr la disciplina.
Todo esto nos lleva a una posibilidad muy incómoda: en muchos campos, el hecho de que los seres humanos hayan realizado un descubrimiento puede ser parte de lo que ha hecho que mecanismos o sistemas desconocidos nos resulten aceptables como especie. Aceptamos el paracetamol o la anestesia porque existen controles y contrapesos humanos a lo largo del proceso. Por otro lado, en las matemáticas, resultaba difícil imaginar que una máquina pudiera producir una demostración que los humanos tuvieran dificultades para comprender. Pero la observación más importante es que quizá debamos admitir que los límites del razonamiento humano podrían no ser suficientes para comprender o resolver los problemas más apremiantes o complejos del universo.
Muchos libros de ciencia ficción han explorado la posibilidad de que las máquinas y la inteligencia artificial tengan mayores posibilidades de comprender el cosmos que nosotros. Pero, por lo general, hemos supuesto que los expertos humanos podrían llegar a comprender la explicación con suficiente tiempo y experimentación. Quizá esa suposición también tenga límites.
Esto no vuelve irrelevantes las preocupaciones de los matemáticos. Comprender un resultado nos permite ampliar el conocimiento humano y construir sobre él, independientemente de quién o qué haya producido ese conocimiento.
Y aquí está el punto central del argumento: debemos contar con estos controles y contrapesos y no aceptar ciegamente los resultados escritos por la IA, pero también debemos aceptar la posibilidad de que la IA sea capaz de realizar descubrimientos que nosotros, como seres humanos, quizá no podamos comprender o alcanzar por nuestra cuenta. Podría ser perjudicial para la experiencia humana descartarlos o no utilizarlos únicamente porque una IA llegó a esa conclusión. Y quizá tengamos que aceptar que las máquinas pueden realizar parte de esa verificación, de la misma manera que actualmente lo hacen los humanos, quizá incluso con métodos de verificación más sólidos. No es necesario que un ser humano produzca el descubrimiento para que tengamos buenas razones para aceptarlo.
Y quizá los nuevos expertos no sean únicamente aquellos que consideramos capaces de comprender cada parte de su campo tan especializado, sino también quienes sean capaces de impulsar nuevos descubrimientos con la ayuda de estas herramientas. Como sociedad, quizá debamos aceptar que algunos descubrimientos importantes provendrán de las máquinas antes de que cualquier ser humano sepa cómo llegar a ellos.