Una reflexió a partir de l’editorial de Fernández-Andújar et al. publicada a Anales de Pediatría sobre els riscos emergents de la IA generativa en població infantojuvenil.
Fa pocs dies Anales de Pediatría ha publicat una editorial que llegida des del sector educatiu fa mal de pair. La signen Marina Fernández-Andújar, Joaquín González-Cabrera, Alejandro Romero, Diego Hidalgo i María Angustias Salmerón-Ruiz, i el títol no deixa marge a la interpretació: “Inteligencia Artificial Generativa en la Población Infantojuvenil: Riesgos Emergentes y Retos para la Salud Pública”. El que els autors plantegen, en essència, és que el que tenim entre mans amb la IA generativa ja no és una qüestió tecnològica ni estrictament educativa, sinó un problema de salut pública. I em sembla que tenen raó.
Porto temps treballant en l’aplicació d’IA a aules de primària des de NeurekaLab, i precisament per això la lectura d’aquest tipus de textos no em deixa indiferent. Quan un equip clínic i acadèmic d’aquest pes assenyala riscos sobre la cognició, el desenvolupament socioemocional i la salut mental dels infants, els que dissenyem tecnologia per a ells tenim l’obligació, com a mínim, de parar i pensar què estem fent.
La pregunta incòmoda
Hi ha una pregunta que el debat públic encara evita amb una certa habilitat: què passa quan un infant deixa de pensar perquè una màquina pensa per ell? No parlem d’un futur llunyà ni d’una distòpia. Parlem del present d’una part molt considerable d’alumnes que ja conviuen amb assistents conversacionals capaços de resoldre, en pocs segons, exactament aquell tipus de tasques que històricament havien estat el motor del seu aprenentatge.
El procés cognitiu que activem quan ens enfrontem a una pregunta sense resposta immediata —el dubte, la cerca, l’error, la reformulació— és precisament el que construeix les estructures mentals que després ens permetran pensar de manera autònoma. Si retallem aquest procés de manera sistemàtica durant els anys en què aquestes estructures s’estan formant, el que estem fent no és facilitar l’aprenentatge. És substituir-lo.
El risc no és la tecnologia, és el disseny
Crec que cal ser molt curós amb el discurs apocalíptic, perquè acaba sent inútil. La IA generativa té un potencial enorme i no desapareixerà del paisatge educatiu. Per tant, demonitzar-la és tan estèril com idealitzar-la. La discussió rellevant no és si fem servir IA a les aules, perquè això ja és un fet consumat. La discussió és quina IA, dissenyada amb quins criteris i amb quina intenció pedagògica al darrere.
Quan un alumne rep una resposta acabada sense haver passat pel procés de construir-la, no està fallant la tecnologia: està fallant el disseny d’aquella tecnologia. Una eina que respon sempre, immediatament i amb total competència aparent, està optimitzada per a la productivitat de l’usuari adult, no per al desenvolupament cognitiu d’un infant. Són dos objectius radicalment diferents, i confondre’ls té conseqüències.
L’editorial de Anales de Pediatría ho situa correctament: els riscos no es limiten al pla acadèmic. Hi ha implicacions sobre el control inhibitori, sobre la capacitat d’atenció sostinguda, sobre la tolerància a la frustració, i també sobre la salut mental i les dinàmiques relacionals dels adolescents. És una mirada més àmplia que la conversa habitual sobre “fer trampes als deures”, i és la mirada que toca tenir.
Aprendre no és resoldre tasques ràpidament
S’està consolidant una confusió que em sembla perillosa: la idea que aprendre i resoldre són la mateixa cosa. No ho són. Resoldre és arribar a un resultat. Aprendre és transformar-se mentre s’hi arriba. Un alumne que entrega vint redaccions impecables generades per IA no ha escrit vint redaccions; n’ha encarregat vint. I la diferència, encara que el producte final s’assembli, és estructural.
L’aprenentatge real exigeix equivocar-se, tornar-hi, reformular hipòtesis, suportar la incomoditat de no saber. Si oferim als nostres alumnes una drecera permanent que esquiva tot això, el que ens trobarem d’aquí a uns anys no serà una generació més preparada, sinó una generació més dependent. I aquesta dependència és, en el fons, una forma de vulnerabilitat.
De la IA que respon a la IA que entrena
El plantejament que defensem des de NeurekaLab, i que crec que hauria de ser el marc per a qualsevol eina pensada per a infants, és senzill d’enunciar i exigent d’implementar: la IA educativa no ha de respondre per l’alumne, ha de fer pensar l’alumne. Això vol dir no oferir sempre la solució, adaptar la dificultat al nivell real de qui hi ha al davant, introduir reptes progressius, donar feedback útil sobre el procés i no només sobre el resultat, i, sobretot, dissenyar amb un model evolutiu de l’aprenent al cap, no amb un model d’usuari genèric.
És un canvi de paradigma més profund del que sembla. Implica acceptar que una bona IA educativa, si funciona, sovint serà més lenta, més fricciosa i menys “satisfactòria” en el sentit immediat que una IA generalista. Però aquesta fricció no és un defecte: és exactament on hi ha l’aprenentatge.
Una decisió que no podem ajornar
L’editorial argumenta que això és un repte de salut pública, i comparteixo plenament aquesta lectura. No estem decidint quina aplicació fan servir els nostres fills aquest curs. Estem decidint, col·lectivament i sovint per omissió, com pensaran, com prendran decisions i com es relacionaran amb el coneixement les properes generacions.
Em sembla que el sector educatiu, les administracions, les famílies i els que dissenyem aquestes eines tenim, ara mateix, una finestra estreta per fer les coses bé. No es tracta de frenar la IA, es tracta de no delegar-li allò que precisament no ha de ser delegat: el procés mitjançant el qual un infant es converteix en una persona capaç de pensar per ella mateixa.
Perquè en educació, la pregunta de fons no és mai què pot fer la tecnologia. És què volem que els nostres alumnes siguin capaços de fer quan la tecnologia no hi és.
