Fiche mise en ligne le 17 juillet 2024
Mise à jour en mars 2026
Un grand nombre d’outils numériques sont désormais devenus « intelligents », dotés d’une capacité d’analyse et de génération de textes et d’images. Les intelligences artificielles génératives (IAG) bousculent les modes de production et de diffusion de l’information. Sans réglementation stricte, ni cadre d’usage partagé, elles interrogent nos façons de recevoir et de produire de l’information.
Les IA génératives fonctionnent selon des logiques prédictives et non éthiques
Les IA génératives apparaissent comme des technologies capables de se substituer au raisonnement humain, voire à l’action humaine, notamment pour la production de contenus. Par l’interface du langage naturel que permet leur robot conversationnel (chatbot), elles peuvent, à partir d’une requête (prompt), créer des images fixes et animées, simuler des voix et générer des textes inédits ou plus ou moins « empruntés », parfois sans préciser les sources interrogées et respecter la propriété intellectuelle des auteurs. Les IAG prélèvent de « l’information », selon une logique guidée par des principes « statistiques », dans d’immenses bases de données textuelles, visuelles et sonores présentes sur le web. À l’heure actuelle elles ne sont pas encore capables de détecter et de neutraliser des biais (sexistes, discriminants), ni d’appliquer des principes moraux ou éthiques dans la génération de leurs réponses. Cependant, en fonction des types d’IA qu’ils souhaitent promouvoir et de leur modèle d’entraînement (supervisé ou non), les producteurs des IAG peuvent intégrer ou non des critères promouvant ou empêchant l’utilisation de tel ou tel type de données, en vue de neutraliser certains biais, voire de dresser un cadre d’usage éthique pour ces outils.
Quand l’IA génère de l’information ou ce qui y ressemble
Le paysage médiatique numérique est désormais totalement transformé par ces nouveaux agents artificiels non humains qui alimentent un flux toujours plus important d’éléments informationnels, parfois ressemblant dans leur forme à de l’info, mais qui n’ont pas fait l’objet de procédures strictes de vérification et/ou de croisement des sources interrogées. Une IAG est capable d’inventer des éléments de réponse possiblement pertinents d’un point de vue logique, qui peuvent cependant n’avoir aucune réalité. D’une certaine manière, une IA peut produire du faux ou de l’inexact et donner des réponses erronées du point de vue factuel. Ces « hallucinations » ne sont pas le produit d’une action dite intentionnelle ou volontairement malveillante de la part du système d’IA, qui ne fonctionne pas selon des principes moraux humains de bien ou de mal, de vrai ou de faux, mais essentiellement selon une logique dite « prédictive » : elle apporte la réponse la plus probable, statistiquement, à la question posée, quitte à faire peu de cas de son inexactitude ou incohérence.
L’usage conscient et maîtrisé d’une IAG, un nouveau défi éducatif
À présent, la question n’est plus de s’interroger sur le fait qu’il soit souhaitable ou non d’utiliser ces technologies qui font désormais partie du quotidien des élèves. L’enjeu est de leur apprendre à faire preuve de vigilance, lorsqu’ils utilisent une IAG pour rechercher de l’information. Il est nécessaire que les élèves puissent avoir une connaissance même partielle des différents outils à leur disposition, de leur principe de fonctionnement, des logiques techniques et éthiques qui les soutiennent et qui peuvent en limiter leur efficacité et leur fiabilité. Ils ont aussi besoin d’être conscients de ce que ces outils peuvent apporter en termes de plus-values et de risques, notamment quand l’IAG se substitue à la réflexion personnelle et à l’exercice de l’esprit critique quand des décisions doivent être prises après réception d’informations possiblement erronées. Si les IAG fonctionnent selon des stratégies industrielles et commerciales diverses, leurs usages sont toutefois soumis à des contraintes juridiques (le règlement européen Artificial Intelligence Act par exemple) parfois très hétérogènes en fonction des logiques culturelles et géopolitiques des territoires concernés. À l’école et en famille, il appartient aux jeunes citoyens de s’éduquer aux IAG afin d’être capables de s’en emparer de façon maîtrisée et efficace, en conscience et en responsabilité au regard des idéologies que certaines d’entre elles peuvent véhiculer et à leur empreinte énergétique.
Isabelle Féroc Dumez, directrice scientifique et pédagogique du CLEMI
Ressources complémentaires :
« L’IA en éducation, cadre d’usage », ministère de l’Éducation nationale, juin 2025.
