Hace unos días escribí sobre el riesgo de quedar atrapados entre dos extremos bastante evidentes: quemarnos intentando hacer todo solos o volvernos dependientes de una herramienta que puede resolver por nosotros cada vez más cosas. Después de publicarlo me quedó dando vueltas una pregunta que, cuanto más la pienso, más incómoda me resulta: ¿qué pasa si cada día hacemos mejor nuestro trabajo, pero cada día somos un poco menos capaces de hacerlo por nuestra cuenta?
No es necesariamente una contradicción. De hecho, probablemente sea una de las paradojas más importantes que vamos a tener que administrar durante los próximos años. Hoy puedo abrir una IA y producir en una hora lo que hace poco tiempo me hubiera llevado una mañana entera. Puedo investigar un tema, revisar código, comparar alternativas, resumir documentos, encontrar inconsistencias, traducir, ordenar ideas y discutir una hipótesis. Soy objetivamente más productivo que antes, pero de ahí no se desprende que yo sea más capaz. Parte de esa capacidad ya no está exclusivamente en mí, sino en el sistema formado por mí y por la herramienta.
La diferencia parece menor mientras la herramienta está disponible. El problema aparece cuando la sacamos de la ecuación.
Hay un experimento realizado con casi mil estudiantes que ilustra bastante bien esta cuestión. Los alumnos trabajaban con problemas de matemática y algunos grupos tenían acceso a herramientas basadas en GPT. Mientras podían utilizarlas, su rendimiento mejoraba considerablemente, algo que a esta altura no sorprende demasiado. Lo interesante apareció después, cuando la herramienta dejó de estar disponible: el grupo que había utilizado una versión del asistente con pocas restricciones terminó rindiendo peor que el grupo que nunca había tenido acceso a IA.
Ese resultado abre una pregunta mucho más profunda que la de si la herramienta funcionó o no. Claramente funcionó. Los estudiantes resolvieron mejor los problemas mientras la tuvieron disponible. Lo que queda en duda es cuánto de esa mejora había quedado realmente en ellos y cuánto pertenecía al sistema formado por estudiante más máquina. Y ese mismo problema empieza a aparecer en nuestro trabajo cotidiano, aunque todavía no lo midamos demasiado. Si el informe salió bien, si el código funciona, si la presentación quedó clara o si el análisis parece sólido, consideramos que la tarea fue exitosa. Probablemente lo fue, pero casi nunca nos hacemos una segunda pregunta: ¿podríamos explicar por qué está bien? ¿Podríamos reconstruir ese razonamiento? ¿Detectaríamos un supuesto equivocado escondido dentro de una respuesta excelente?
La inteligencia artificial no inventó este fenómeno. Llevamos décadas externalizando capacidades y, en la mayoría de los casos, hacerlo fue una excelente decisión. La calculadora nos evitó hacer determinadas cuentas mentalmente. El GPS hizo innecesario memorizar una enorme cantidad de recorridos. Los teléfonos hicieron que dejáramos de recordar números que antes conocíamos de memoria. Google cambió incluso nuestra relación con el conocimiento, porque muchas veces ya no necesitamos recordar un dato: alcanza con saber que podemos recuperarlo rápidamente cuando lo necesitemos.
No tengo ninguna nostalgia por eso. No quiero volver al mapa de papel ni dividir números de seis cifras a mano para demostrar que todavía puedo hacerlo. El problema con la IA es distinto porque estamos empezando a externalizar algo mucho más profundo. Ya no se trata solamente de memoria, cálculo o navegación. Estamos empezando a delegar partes del razonamiento.
Una inteligencia artificial puede recibir un problema mal definido, ordenarlo, detectar variables, proponer alternativas, evaluar ventajas y desventajas y entregarnos una conclusión perfectamente redactada. Cuando la respuesta es buena ocurre algo muy particular: la leemos, nos parece lógica y sentimos que entendimos. Pero entender un razonamiento cuando lo vemos no es lo mismo que haber sido capaces de construirlo. Esa diferencia es sutil porque, desde afuera, el resultado puede ser idéntico. Podemos repetir la conclusión, explicarla razonablemente bien e incluso defenderla. Sin embargo, cognitivamente no hicimos el mismo recorrido.
Ahí aparecen dos palabras: criterio y propósito. Son las dos cosas que el humano sigue aportando cuando la máquina ya resuelve casi todo lo demás. Hoy me quiero quedar con la primera. La IA va a hacer cada vez más cosas y las va a hacer cada vez mejor. Eso significa que una parte creciente del valor humano no va a estar simplemente en producir, sino en decidir qué producir, qué aceptar, qué descartar y cuándo desconfiar. Va a importar saber qué problema vale la pena resolver, qué información falta, qué supuesto está escondido dentro de una conclusión o qué respuesta parece perfectamente razonable pero, por algún motivo, no termina de cerrar.
El problema es que el criterio tampoco aparece por generación espontánea. Se construye haciendo, equivocándonos, probando caminos que no funcionan, leyendo cosas que finalmente no sirven, defendiendo una idea hasta descubrir que estaba mal, discutiendo con alguien que sabe más y tratando de entender por qué. Toda esa fricción que durante décadas intentamos eliminar era, en parte, entrenamiento. Y ahora tenemos frente a nosotros una herramienta extraordinariamente buena eliminando fricción.
No creo que la solución sea volver a incorporarla artificialmente en todos lados. Sería absurdo. Pero sí creo que vamos a tener que aprender a distinguir entre la fricción inútil y la fricción que construye capacidad. Cuanto mejor sea la IA, más importante va a ser esa distinción, porque el problema real no aparece cuando una respuesta es obviamente mala. Ese error lo ve cualquiera. El problema serio empieza cuando la respuesta es 95% correcta y el error está dentro del 5% que requiere conocimiento, experiencia o razonamiento para detectarlo.
Microsoft Research y Carnegie Mellon estudiaron cómo trabajadores del conocimiento utilizaban herramientas de IA generativa en tareas reales. Entre otras cosas encontraron una relación interesante: cuanto mayor era la confianza del usuario en la IA, menor era el esfuerzo de pensamiento crítico que reportaba aplicar sobre la tarea. Eso no significa que utilizar IA destruya el pensamiento crítico, porque sería una conclusión demasiado simple. Lo que sí sugiere es que la manera en que utilizamos la herramienta modifica la manera en que pensamos.
No es lo mismo preguntarle a una IA "analizá este problema y decime qué hacer" que llegar con una hipótesis propia y pedirle que busque dónde falla, que construya el mejor argumento en contra y que nos muestre qué estamos dejando afuera. En los dos casos estamos usando inteligencia artificial, pero cognitivamente estamos haciendo dos cosas completamente distintas. En el primer caso delegamos gran parte del razonamiento. En el segundo utilizamos la máquina para someter nuestro razonamiento a presión.
Esa diferencia probablemente sea mucho más importante que aprender a escribir buenos prompts. No se trata solamente de obtener una respuesta mejor, sino de decidir qué parte del proceso queremos conservar.
Hace tiempo que vuelvo a una metáfora porque cada vez me parece más útil: la IA debería funcionar como un buen compañero de gimnasio. Un buen compañero no levanta la barra por vos. Te ayuda a cargar un poco más de peso del que manejarías solo, te corrige cuando la técnica empieza a deteriorarse y te da seguridad para acercarte a tu límite. Pero la fuerza la hacés vos. Si cada vez que vas a entrenar tu compañero hace todas las repeticiones, pueden anotar doscientos kilos en la planilla y el resultado del equipo va a ser espectacular, pero vos seguís sin poder levantar la barra.
Con la inteligencia artificial necesitamos aprender a medir algo parecido. No solamente cuánto produjo el sistema formado por humano más máquina, sino cuánto creció el humano dentro de ese sistema. Porque si solamente medimos output, la lógica siempre va a empujarnos a delegar un poco más. Cada nueva versión va a escribir mejor, analizar mejor y resolver más rápido, y probablemente tenga sentido aprovecharlo. El problema aparece cuando terminamos revisando trabajos que nosotros mismos ya no seríamos capaces de producir o aprobando decisiones cuyo razonamiento ya no comprendemos completamente.
En ese punto ya no estamos supervisando la inteligencia artificial de una manera real. Estamos aprobando resultados.
Por eso no tengo ninguna intención de usar menos IA. La utilizo todos los días y creo que estamos frente a una de las herramientas más extraordinarias que construimos. Pedir que dejemos de usarla para preservar nuestras capacidades sería parecido a pedir que dejemos de utilizar calculadoras para conservar la aritmética mental. El desafío, para mí, es otro: conservar determinados espacios de esfuerzo.
Eso puede significar pensar un problema antes de preguntarlo, formular una hipótesis propia antes de pedir una alternativa, utilizar la IA para encontrar agujeros en nuestro razonamiento en lugar de pedirle que razone siempre desde cero, intentar explicar con nuestras palabras algo que acabamos de aprender o leer, de vez en cuando, el documento entero aunque exista un resumen perfecto. Incluso puede significar hacer algunas cosas sin asistencia, no porque sea eficiente, sino precisamente porque no lo es.
El gimnasio tampoco es una forma eficiente de mover peso. Si nuestro objetivo fuera solamente llevar cien kilos de un lugar a otro usaríamos una máquina. Levantamos la pesa porque el verdadero objetivo nunca fue moverla, sino lo que le ocurría a nuestro cuerpo mientras la movíamos. Tal vez con nuestra cabeza tengamos que empezar a recordar algo parecido.
Durante gran parte de nuestra historia tuvimos un problema de acceso. Faltaban libros, profesores, especialistas, información y tiempo. Saber algo requería encontrar a alguien que lo supiera o encontrar el lugar donde ese conocimiento estaba almacenado. Internet redujo enormemente esa dificultad y la inteligencia artificial está dando otro salto, porque hoy casi cualquier persona puede sentarse frente a una máquina capaz de explicarle un concepto veinte veces, cambiar de ejemplo, simplificarlo, profundizarlo, traducirlo, discutirlo y empezar nuevamente sin cansarse.
Eso es extraordinario, pero también cambia dónde está el valor. Cuando conseguir respuestas deja de ser difícil, empieza a importar mucho más saber qué preguntar. Cuando producir soluciones deja de ser difícil, empieza a importar mucho más saber qué aceptar. Y cuando la máquina puede razonar con nosotros, empieza a importar mucho más conservar la capacidad de reconocer cuándo ese razonamiento no cierra.
Quizás la habilidad más importante de esta etapa no sea aprender a utilizar inteligencia artificial. Eso probablemente termine siendo bastante sencillo. El verdadero desafío va a ser aprender a utilizarla sin entregar aquello que necesitamos para dirigirla.
Mientras podamos preguntar, discutir, desconfiar, relacionar ideas, cambiar de opinión y reconocer cuándo algo no cierra, la IA es una ampliación extraordinaria de nuestras capacidades. El día que perdamos eso, la máquina va a seguir respondiendo igual de bien.
El problema es que nosotros ya no vamos a saber si tiene razón.
Autor: Fabi Mesaglio
No hay comentarios:
Publicar un comentario