César Poyatos: Elegir cerebro sin mente o corazón pedagógico

El profesor de tecnología educativa, César Poyatos, volvió a los talleres de EduConec el pasado miércoles 18 de marzo para conducir el webinar “Inteligencia que importa: qué capacidades humanas no puede copiar la tecnología”. Una charla en la que algunos de los personajes y las situaciones de Lyman Frank Baum y su maravilloso mago de Oz han servido como hilo conductor para explorar el impacto de la Inteligencia Artificial en el ámbito educativo.

César Poyatos

Comenzó haciendo ver que la IA se presenta como el tornado del cuento, un tornado que aterriza en un mundo con reglas distintas y obliga a las y los docentes a replantearse procesos de evaluación y programación.

En realidad, nada que no haya sucedido otras veces en la historia, con tecnologías como la imprenta, o, hace mucho menos, la aparición de internet.

Tecnologías que democratizaron el acceso a la información; si bien la IA añade una nueva dimensión, que es la capacidad de generar y crear.

De modo que se produce un cambio de paradigma, pues no solo muta el modo en el que accedemos y procesamos la información, sino que también cambia la manera de generarla.

En esta introducción observa que esta nueva situación trae consigo una dicotomía emocional, pues considera que existe una tensión constante entre lo fascinante de sus posibilidades y la incertidumbre o incluso el miedo ante sus riesgos.

¿Es la IA como el espantapájaros?

César Poyatos sostienes que no, que hay una gran diferencia. El Espantapájaros con el que se encuentra Dorothy en un campo de maíz por el camino de baldosas amarillas, aunque parecía no tener cerebro, demuestra ingenio y capacidad de improvisación. Sin embargo, la IA funciona mediante la predicción y clasificación basada en datos masivos, pero carece de una comprensión real del entorno.

Nos ha hablado del concepto acuñado por Chris Didi, de la Universidad de Harvard; la IA es un “cerebro sin mente“; carece de sistema sensorial, de conciencia y de la capacidad de experimentar vivencias.

Por ejemplo, la IA no puede identificar el clima emocional de un aula tras un conflicto en el recreo, algo que un docente hace de forma instintiva y eso le da la posibilidad de reprogramar su clase.

Ningún algoritmo podrá sustituir a docentes ni a escuelas, porque la esencia de la educación es conectar corazones

Antes de pasar a preguntarse si tal vez es como el hombre de hojalata, ha dejado claro que las IA, tal y como son ahora, tienen sesgos y presentan una visión distorsionada de la realidad.

Así que si a una IA generativa de imágenes le pides “docente de infantil” te ofrecerá como primeras opciones mujeres jóvenes de etnia caucásica. Y si le pides “docente universitario” ofrecerá hombres mayores de cincuenta con chaqueta y corbata. Este ejemplo es extrapolable a cualquier otra cuestión, se trata de una visión de la realidad sesgada culturalmente.

Un estudio de Harvard con 95.000 personas revela que las respuestas de ChatGPT están fuertemente orientadas a valores anglosajones.

También se detuvo Poyatos a analizar los sistemas de pensamiento y aprendizaje profundo propuestos por Daniel Kahneman en su obra Thinking, Fast and Slow:

El sistema 1; el rápido, que es automático, intuitivo y gasta poca energía, y que es el que solemos utilizar la mayor parte del tiempo, es propenso a errores.

Y el sistema 2; el lento, que requiere tiempo, esfuerzo y atención.

Este segundo sistema es esencial para el aprendizaje profundo y la resolución de problemas complejos, y saber esto nos da la pista de uno de los mayores riesgos de utilizar la IA, que es delegar en ella las tareas que necesitan el sistema 2.

Un cerebro sin mente (y sin corazón)

El segundo de los personajes del mundo de Oz que incorporó a su discurso fue el hombre de hojalata, para apuntar que la IA no tiene sentimientos, no los experimenta, pero como existe una tendencia de las personas a proyectar cualidades humanas en las máquinas y los sistemas algorítmicas, se puede caer en la trampa de pensar que sí tiene corazón.

Habló del efecto Eliza, de la adulación algorítmica (la IA suele dar la razón a quien la utiliza), y del riesgo de tratar a una realidad técnica y tecnológica como si fuese una realidad humana.

La revisión de los personajes del mundo de Oz le ha servido para describir las cualidades y las carencias de la IA

Un cerebro sin mente (y sin responsabilidad moral)

El tercer personaje, fundamental para entender otra gran diferencia entre inteligencias, es el León que encontró Dorothy en el bosque. Porque el león, aunque él pensaba que no era así, en realidad era valiente y tenía responsabilidad moral.

Y esas dos cosas, la valentía y la asunción de responsabilidades son exclusivamente humanas. La IA no puede rendir cuentas ni tomar decisiones éticas.

Precisamente por eso las personas no pueden perder el control sobre la herramienta y la docencia debe mantener la gobernanza del aprendizaje.

Nos trajo aquí Poyatos al recuerdo la serie de los años ochenta El coche fantástico para comparar al coche del protagonista, que era un complemento de su conductor, con su réplica, que como otras máquinas en la ciencia ficción, comienza a actuar de manera autónoma y pierde el control sobre sus propias acciones.

La revisión de los personajes del mundo de Oz le ha servido para describir las cualidades y las carencias de la IA y para demostrar que, en cuestiones de pedagogía, no puede ser en ningún caso una sustitución de una profesora o un profesor.

Avanzó en la charla acercándonos a los modelos pedagógicos que integran la IA a favor de la enseñanza-aprendizaje.

Por ejemplo, el modelo ISAR: Inversión, sustitución, aumento, redefinición. Un modelo que analiza el valor añadido de la tecnología:

Y enfiló la recta final de su charla dando las pautas teóricas para alcanzar el aprendizaje óptimo, que sucede cuando existe una alta contribución humana combinada con una alta contribución de la IA.

Y para terminar apareció Dorothy Gale, la niña campesina de Kansas, que fue absorbida por un ciclón, todo tan metafórico: si consideramos su casa nuestra casa; estamos hablando del sistema educativo y de nuestras certezas profesionales.

Dorothy representa la esencia de lo humano: la capacidad de percibir emociones, la de adaptarse al contexto social y la de fortalecer vínculos sentimentales, intelectuales y emocionales.

Podemos definir a la IA como un “Cerebro sin Mente” que nos obliga a recuperar nuestro corazón pedagógico

Precisamente Dorothy presenta ―sin que su creador lo supiese cuando escribió el personaje― las habilidades que nos hacen competitivos frente a la IA según el Foro Económico Mundial: el pensamiento crítico y creativo, la resiliencia; la flexibilidad y la agilidad mental; la curiosidad y el aprendizaje continuo y la empatía y la escucha activa.

En conclusión, podemos definir a la IA como un “Cerebro sin Mente” que nos obliga a recuperar nuestro corazón pedagógico, porque educar es más que transmitir información; “Educar es un acto de amor y por tanto de valor.”

Y no hay que olvidar que, al final del relato, el Mago de Oz resultó ser un hombre común haciendo trucos detrás de una cortina.

Ningún algoritmo podrá sustituir a docentes ni a escuelas, porque la esencia de la educación es conectar corazones.

El conocimiento sigue siendo la mayor herramienta de libertad y la base necesaria para poder ser críticos incluso con la tecnología.