Existe un entusiasmo enorme por la IA generativa, pero pudiéramos estar frente a un cambio cultural muy peligroso. Ahora podríamos estar empezando a hacer el outsourcing del pensamiento mismo Para ser más precisos, estaríamos realizando el outsourcing del esfuerzo de formar un juicio antes de expresarlo
Especial de Laszlo Beke
El riesgo es que el uso inapropiado de la IA permita crear la primera generación de humanos con funciones cognitivas externalizadas. La diferencia fundamental radica entre quienes utilizan la IA como un apoyo intelectual y quienes la utilizan como un sustituto del pensamiento
Los primeros se ven potenciados por ella. Los segundos se ven progresivamente debilitados. Quienes más se beneficiarán de la IA no serán quienes la usen para todo. Serán quienes sepan cuándo no usarla. En la educación actual yfutura, esto se vuelve imposible de ignorar
Es necesario crear los hábitos que permitan aprovechar la IA.
Outsourcing de la cognición
Durante años, los humanos hemos venido haciendo un outsourcing de partes de la cognición de forma tan gradual que el cambio apenas se ha notado
-
Outsourcing de la memoria a los motores de búsqueda – a pesar de que el conocido «efecto Google» demostrara que, cuando las personas esperan que la información permanezca accesible en línea, es menos probable que recuerden la información en sí y es más probable que recuerden dónde encontrarla.
-
Outsourcing de la navegación al GPS- incluso cuando las investigaciones comenzaban a mostrar que una dependencia excesiva de este sistema podía debilitar la memoria espacial, cuando sea necesario orientarnos por nuestra cuenta.
-
Outsourcing cada vez mayor de la coordinación social a plataformas – donde estas deciden lo que se ve, lo que se responde y cómo se mantiene la sincronización con otros.
La tecnología cumple funciones como una capa de productividad, como un impulsor de la creatividad o como un asistente universal. Pero también crea una tentación peligrosa: confundir la producción de resultados sin fricciones con la comprensión real, y las respuestas fluidas con el juicio adquirido. Las investigaciones han demostrado que una mayor confianza en la IA generativa se asocia con un menor pensamiento crítico, y han vinculado una mayor dependencia de la IA con un menor pensamiento crítico. Cuando las personas tratan la IA como un sustituto del juicio, en lugar de una herramienta para agudizarlo, no se vuelven más capaces. Simplemente se vuelven más dependientes
La era de la descarga cognitivaLos psicólogos denominan descarga cognitiva el transferir el trabajo mental a una ayuda externa. Una lista de la compra es descarga cognitiva. Una calculadora es descarga cognitiva. También lo son un calendario, una libreta o una aplicación de recordatorios. En ese sentido, no hay nada intrínsecamente nuevo ni siniestro en ello. Los seres humanos siempre han creado herramientas que amplían la mente.
El problema no radica en la delegación de tareas en sí, sino en lo que se delega. Al externalizar el almacenamiento, se ahorra esfuerzo. Al externalizar la navegación, reducimos la incertidumbre. Pero al externalizar el juicio, se corre el riesgo de debilitar la facultad que nos permite decidir si la máquina es útil, engañosa, sesgada, superficial, manipuladora o simplemente errónea.
Este riesgo es más importante de lo que muchas organizaciones parecen pensarr. Porque la IA generativa no solo responde preguntas: crea una ilusión de competencia tan convincente que puede difuminar la distinción entre “entiendo esto y puedo producir algo que parezca comprensión»
Ciertas capacidades pueden alterarse de forma significativa, incluyendo una confianza inflada y patrones de recuerdo modificados.
La fluidez no es cognición
Lo que hace que la IA generativa sea culturalmente desestabilizadora no es solo su utilidad, sino su fluidez. Una calculadora nunca pretendió entender la aritmética. El GPS nunca afirmó saber cómo se siente una ciudad. Los motores de búsqueda no se expresaban en primera persona ni ofrecían resúmenes convincentes con una prosa impecable. La IA generativa produce un lenguaje tan pulido y cercano a la retórica humana que resulta fácil confundir la coherencia lingüística con el razonamiento.
Pero una respuesta bien formulada no es lo mismo que una respuesta meditada
Un artículo reciente de HBR señaló que la experiencia y el juicio humanos siguen siendo cruciales porque la IA no puede distinguir con fiabilidad las buenas ideas de las meramente plausibles, ni puede guiar por sí sola la estrategia a largo plazo
Este argumento no es contrario a la IA, es simplemente contrario a la ingenuidad.
Educación
La ansiedad en torno a la IA en las escuelas y universidades suele plantearse en términos de trampas, plagio o integridad de la evaluación. Si bien estos son problemas reales, no son el más profundo. El problema de fondo es que la IA generativa puede mejorar el rendimiento sin generar aprendizaje
Estos sistemas deben utilizarse dentro de un marco centrado en el ser humano, en lugar de usarlos como atajos para el propio proceso cognitivo. La verdadera pregunta no es si los estudiantes usarán la IA, por supuesto que lo harán. La verdadera pregunta es si los estudiantes seguirán teniendo que ejercer su juicio al usarla
La IA podría transformar la educación, si las instituciones educativas en lugar de obsesionarse con la vigilancia se dedican a rediseñar el aprendizaje para un mundo en el que el outsourcing cognitivo parece ser la norma.
La paradoja de la era de la IALas personas con buen criterio, con un conocimiento profundo del área y con un escepticismo disciplinado pueden usar la IA para avanzar más rápido sin renunciar a la autoría. Pueden analizar los resultados, poner a prueba las hipótesis, comparar alternativas y detectar cuándo la máquina ignora la ambigüedad o inventa certezas. Quienes carecen de estos hábitos tienden a aceptar la primera respuesta plausible y seguir adelante.
Los escritos recientes sobre gestión empresarial han comenzado a converger en torno a esta idea. HBR argumentó que trabajar bien con la IA requiere actuar como un tomador de decisiones, en lugar de un usuario pasivo de la herramienta
También advierten que si la IA se encarga del trabajo inicial, complejo y laborioso, a través del cual las personas normalmente desarrollan el discernimiento, las organizaciones podrían terminar con trabajadores capaces de producir resultados sin haber desarrollado jamás un juicio crítico. Incluso las investigaciones sobre creatividad apuntan en la misma dirección: la IA tiende a ayudar más a quienes poseen una metacognición sólida que a quienes carecen de ella
Esto convierte la IA en un problema cultural, no solo técnico. No se trata simplemente de integrar una nueva herramienta en los hábitos existentes. Se está renegociando la relación entre esfuerzo y autoría, entre comodidad y competencia, entre expresión y comprensión.
Lo que realmente debería preocuparnosNecesitamos sistemas educativos, normas laborales y opciones de productos que preserven el juicio humano en lugar de eludirlo. Se necesitan interfaces que fomenten la verificación, la reflexión y la comparación, en lugar de seducir a los usuarios hacia la aceptación pasiva. Debemos dejar de considerar cada reducción del esfuerzo mental como un progreso, por cuanto no toda fricción es un desperdicio. Parte de la fricción es la fuente de la comprensión. Bien utilizada, la IA puede reducir considerablemente la monotonía y crear espacio para un pensamiento más profundo. Mal utilizada, puede erosionar los hábitos que, en primer lugar, hacen posible un pensamiento más profundo.
Es un error centrarse solamente en la velocidad, en la comodidad y en el volumen. La pregunta que debería definir esta fase de la era de la IA: no si las máquinas pueden pensar como nosotros, sino si, al depender de ellas sin control, podríamos dejar de pensar como nosotros mismos. El futuro no pertenecerá a quienes más utilicen la IA, sino a quienes sepan cuándo no hacerlo.
Se hace referencia a AI is creating the first generation of cognitively outsourced humans. También aparece en mi Portal https://tinyurl.com/4xaecx5e. La imagen es cortesía de Microsoft Copilot.