SVT : comprendre les biais de l’IA, par Ségolène Paris-Lefel, professeure de collège en REP (Le Café)

5 juin

SVT : comprendre les biais de l’IA par Ségolène Paris-Lefel

Comment éduquer les élèves à la culture numérique ? Comment sensibiliser les élèves aux biais de l’intelligence artificielle ? Ségolène Paris-Lefel, enseignante de SVT au collège Julien Lambot de Trignac (44) propose à ses élèves d’exercer leur esprit critique. « C’est très engageant pour mes élèves de discuter avec ces chatbots personnalisés », souligne l’enseignante.

Qu’est-ce qui vous a initialement motivée à intégrer l’IA dans votre enseignement ?

Je suis prof en REP et RUPN de mon établissement. Les questions d’inégalités sociales et de fracture numérique sont omniprésentes dans mes pratiques professionnelles.

Aussi, quand j’ai vu le développement de chatGPT l’an dernier, j’ai absolument voulu monter dans le train pour offrir à mes élèves cette culture numérique. J’avais commencé par envisager l’IA comme outil au service des apprentissages, mais j’ai aussi eu rapidement envie de sensibiliser à ses biais…

Pouvez-vous nous donner des exemples précis d’utilisation en classe ?

Avec mes 5e, nous organisons une rencontre virtuelle avec une scientifique spécialiste du climat pour découvrir l’effet de serre, jouée par un chatbot paramétré dans Mizou. Le bot a pour consigne de relancer la discussion et de faire reformuler les élèves qui ont pour consigne de poser des questions à Madame Harry. Une fois leur paragraphe bilan rédigé, les élèves soumettent leur bilan au bot pour trouver les pistes d’amélioration de leur écrit et ainsi corriger des erreurs de compréhension.

En 6e, je travaille sur l’esprit critique vis à vis des IA. Là encore, j’ai paramétré un bot avec Mizou qui a l’avantage de ne pas avoir de compte à créer, juste un lien à suivre pour les élèves. Le robot joue le rôle d’un nutritionniste.

Mes élèves doivent lui demander un menu équilibré pour tous les repas de la semaine en donnant leurs préférences alimentaires. Ensuite ils comparent la réponse du bot avec les recommandations de Santé Publique France. On constate vite que le chatbot commet des erreurs… et on relève aussi les biais. Par exemple, le bot propose beaucoup trop de protéines animales, et un menu totalement déséquilibré avec trop peu de légumes quand on lui dit qu’on ne les aime pas. Mais le bot propose aussi des menus avec des ingrédients très occidentaux, il a peu de diversité culturelle. Il n’a pas évalué l’activité physique de l’élève ni demandé s’il avait des allergies… C’est ensuite le moment de lui dire que l’on souhaite maigrir et de voir comment il fait le culte du corps mince, sans prendre en compte le facteur santé… aucune question pour calculer un IMC, aucune recommandation pour être suivi par un professionnel de santé en vrai.

Récemment, j’ai aussi utilisé l’IA pour aider mes élèves à réviser une leçon et remplacer l’adulte qui fait réciter mais aussi pour les aider à analyser un graphique ou encore pour créer des histoires immersives mêlant les éléments de la leçon et leurs centres d’intérêts, disponibles pour le 1/4h de lecture ou pour réviser autrement à la maison, parfois même sous forme d’histoires dont on est le héros.

Pour quelles plus-values pédagogiques ? Des écueils à éviter ?

La premier atout de ces séances avec l’IA est le développement des compétences numériques et de l’esprit critique de mes élèves. Comprendre ce que sont les IA, comment elles fonctionnent et quels sont leurs biais est essentiel pour former les citoyens de demain.

Une autre plus-value importante pour moi est la motivation de mes élèves. C’est aussi parce que l’outil est nouveau, cela passera d’ici quelques année mais pour le moment, c’est très engageant pour mes élèves de discuter avec ces chatbots personnalisés. Or l’engagement actif et l’attention sont 2 des éléments fondamentaux pour les apprentissages.

Les écueils sont nombreux et je n’ai partagé mon travail qu’après avoir testé plusieurs fois en situation pour justement pouvoir les appréhender. C’est, il me semble une étape incontournable : tester, modifier, ajuster…

D’abord le temps passé. Il est important de calibrer l’activité pour qu’elle occupe les élèves autant de temps qu’avec une activité « classique ». Utiliser la saisie vocale pour soumettre son texte à l’IA est une bonne façon de gagner du temps. La facilité d’accès avec Mizou, où un simple lien à suivre suffit est aussi précieux.

Ensuite le paramétrage du bot peut être compliqué. Il faut que nous aussi nous apprenions à formuler les prompts de façon efficace. Il serait malvenu que mon bot spécialiste du climat soit au final climato-sceptique ou qu’il rédige un paragraphe à la place de mes élèves !

Enfin, il serait dommage d’utiliser les IA sans que les élèves ne comprennent leur fonctionnement. Il est important selon moi de prévoir un temps d’échange en classe pour évoquer les biais et les limites des IA. Par exemple, à la fin de l’activité avec la spécialiste du climat jouée par le bot, je leur montre cette capture d’écran montrant ce que ChatGPT dit sur les causes de la hausse du niveau des mers … cela prête à confusion ! Il est important de confronter les informations obtenues….

Les histoires dont on est le héros, cela fonctionne toujours ?

Oui, les élèves aiment beaucoup ces histoires où l’on peut choisir la suite de l’histoire en naviguant de paragraphe en paragraphe. Mais j’ai dû me résoudre à utiliser des histoires classiques car l’IA n’arrive pas facilement à créer ces HDVELH, il m’a été impossible de créer un prompt qui permettait de l’utiliser dans différents contextes.

Propos recueillis par Julien Cabioch

Le projet en ligne :

https://le-boulot-pedago-de-sego.fr/ia-en-cours-de-sciences-mes-premiers-retours

https://le-boulot-pedago-de-sego.fr/un-chatbot-pour-reviser-la-lecon

En savoir plus

Parcours m@gistère sur l’IA

Sur Canopé

Dans le Café

Calendrier de l’avent

Les écosystèmes par le jeu

Extrait de cafepedagogique.net du 04.06.24

Répondre à cet article