Una reflexión a partir del editorial de Fernández-Andújar et al. publicado en Anales de Pediatría sobre los riesgos emergentes de la IA generativa en población infantojuvenil.
Hace pocos días Anales de Pediatría publicó un editorial que, leído desde el sector educativo, resulta difícil de digerir. Lo firman Marina Fernández-Andújar, Joaquín González-Cabrera, Alejandro Romero, Diego Hidalgo y María Angustias Salmerón-Ruiz, y el título no deja margen a la interpretación: “Inteligencia Artificial Generativa en la Población Infantojuvenil: Riesgos Emergentes y Retos para la Salud Pública”. Lo que plantean los autores, en esencia, es que lo que tenemos entre manos con la IA generativa ya no es una cuestión tecnológica ni estrictamente educativa, sino un problema de salud pública. Y me parece que tienen razón.
Llevo tiempo trabajando en la aplicación de IA en aulas de primaria desde NeurekaLab, y precisamente por eso la lectura de este tipo de textos no me deja indiferente. Cuando un equipo clínico y académico de este peso señala riesgos sobre la cognición, el desarrollo socioemocional y la salud mental de los niños, quienes diseñamos tecnología para ellos tenemos la obligación, como mínimo, de parar y pensar qué estamos haciendo.
La pregunta incómoda
Hay una pregunta que el debate público todavía evita con cierta habilidad: ¿qué ocurre cuando un niño deja de pensar porque una máquina piensa por él? No hablamos de un futuro lejano ni de una distopía. Hablamos del presente de una parte muy considerable de alumnos que ya conviven con asistentes conversacionales capaces de resolver, en pocos segundos, exactamente ese tipo de tareas que históricamente habían sido el motor de su aprendizaje.
El proceso cognitivo que activamos cuando nos enfrentamos a una pregunta sin respuesta inmediata —la duda, la búsqueda, el error, la reformulación— es precisamente el que construye las estructuras mentales que después nos permitirán pensar de manera autónoma. Si recortamos este proceso de forma sistemática durante los años en que estas estructuras se están formando, lo que estamos haciendo no es facilitar el aprendizaje. Es sustituirlo.
El riesgo no es la tecnología, es el diseño
Creo que hay que ser muy cuidadosos con el discurso apocalíptico, porque acaba siendo inútil. La IA generativa tiene un potencial enorme y no desaparecerá del paisaje educativo. Por tanto, demonizarla es tan estéril como idealizarla. La discusión relevante no es si usamos IA en las aulas, porque eso ya es un hecho consumado. La discusión es qué IA, diseñada con qué criterios y con qué intención pedagógica detrás.
Cuando un alumno recibe una respuesta terminada sin haber pasado por el proceso de construirla, no está fallando la tecnología: está fallando el diseño de esa tecnología. Una herramienta que responde siempre, de forma inmediata y con total apariencia de competencia, está optimizada para la productividad del usuario adulto, no para el desarrollo cognitivo de un niño. Son dos objetivos radicalmente distintos, y confundirlos tiene consecuencias.
El editorial de Anales de Pediatría lo sitúa correctamente: los riesgos no se limitan al plano académico. Hay implicaciones sobre el control inhibitorio, la capacidad de atención sostenida, la tolerancia a la frustración, y también sobre la salud mental y las dinámicas relacionales de los adolescentes. Es una mirada más amplia que la conversación habitual sobre “hacer trampas en los deberes”, y es la mirada que corresponde tener.
Aprender no es resolver tareas rápidamente
Se está consolidando una confusión que me parece peligrosa: la idea de que aprender y resolver son la misma cosa. No lo son. Resolver es llegar a un resultado. Aprender es transformarse mientras se llega a él. Un alumno que entrega veinte redacciones impecables generadas por IA no ha escrito veinte redacciones; ha encargado veinte. Y la diferencia, aunque el producto final se parezca, es estructural.
El aprendizaje real exige equivocarse, volver a intentarlo, reformular hipótesis, soportar la incomodidad de no saber. Si ofrecemos a nuestros alumnos un atajo permanente que esquiva todo eso, lo que encontraremos dentro de unos años no será una generación más preparada, sino una generación más dependiente. Y esa dependencia es, en el fondo, una forma de vulnerabilidad.
De la IA que responde a la IA que entrena
El planteamiento que defendemos desde NeurekaLab, y que creo que debería ser el marco para cualquier herramienta pensada para niños, es sencillo de enunciar y exigente de implementar: la IA educativa no debe responder por el alumno, debe hacer pensar al alumno. Eso significa no ofrecer siempre la solución, adaptar la dificultad al nivel real de quien tiene delante, introducir retos progresivos, dar feedback útil sobre el proceso y no solo sobre el resultado, y, sobre todo, diseñar con un modelo evolutivo del aprendiz en mente, no con un modelo de usuario genérico.
Es un cambio de paradigma más profundo de lo que parece. Implica aceptar que una buena IA educativa, si funciona, a menudo será más lenta, más friccional y menos “satisfactoria” en el sentido inmediato que una IA generalista. Pero esa fricción no es un defecto: es exactamente donde se produce el aprendizaje.
Una decisión que no podemos aplazar
El editorial argumenta que esto es un reto de salud pública, y comparto plenamente esa lectura. No estamos decidiendo qué aplicación usan nuestros hijos este curso. Estamos decidiendo, colectivamente y a menudo por omisión, cómo pensarán, cómo tomarán decisiones y cómo se relacionarán con el conocimiento las próximas generaciones.
Me parece que el sector educativo, las administraciones, las familias y quienes diseñamos estas herramientas tenemos, ahora mismo, una ventana estrecha para hacer las cosas bien. No se trata de frenar la IA, se trata de no delegarle aquello que precisamente no debe ser delegado: el proceso mediante el cual un niño se convierte en una persona capaz de pensar por sí misma.
Porque en educación, la pregunta de fondo nunca es qué puede hacer la tecnología. Es qué queremos que nuestros alumnos sean capaces de hacer cuando la tecnología no está.
