Jill Murphy est responsable des contenus à Common Sense Media, une ONG américaine indépendante. Engagée dans le soutien à la parentalité numérique au niveau international, Common Sense mène des activités de recherche et de plaidoyer, ainsi que la production de ressources éducatives à destination des familles et des enseignants.

Phénomène en pleine expansion, les IA génératives ouvrent des possibilités inédites. Mais derrière l’enthousiasme, des questions majeures émergent pour la sécurité des plus jeunes.

Mésinformation et réponses « fausses »

Astuce : apprenez aux enfants à toujours vérifier les réponses données par l’IA.

Les outils d’IA générative peuvent donner l’impression d’être très sûrs d’eux et fiables, même lorsqu’ils fournissent des informations incorrectes. Cela peut troubler les enfants qui apprennent à distinguer la réalité de la fiction. Les IA génératives sont susceptibles d’inventer des détails (même lorsqu’elles sourcent leurs réponses), de présenter des opinions comme des faits, ou encore de laisser de côté des éléments de contexte importants. Cela s’avère d’autant plus problématique lorsque les enfants se fient aux IA génératives pour leurs devoirs ou pour obtenir des réponses rapides.

Encouragez les enfants à vérifier les réponses des IA génératives au regard de sources fiables (un enseignant, un livre, un site reconnu) et exercez-vous à le faire ensemble. Rappelez-leur que les IA génératives peuvent être un bon point de départ, mais qu’elles ne disent pas toujours la vérité.

Vie privée et gestion des données personnelles

Astuce : établissez des règles simples sur ce que l’on peut partager.

Souvent, les outils d’IA générative enregistrent ou analysent ce que les utilisateurs écrivent. Ainsi, les enfants peuvent malencontreusement partager des informations personnelles, telles que leur nom, celui de leur école, leur localisation, sans en percevoir les risques. Les enfants sont également susceptibles de partager des images ou de poser des questions relatives à leurs émotions et à leur vie privée, qui révèlent davantage de choses qu’ils ne l’imaginent.

Pour leur sécurité, définissez quelques repères faciles à suivre : pas de nom, pas de localisation, pas de photo et pas d’information à caractère personnel. Aidez les enfants à comprendre que même lorsque la conversation avec l’IA semble naturelle et amicale, c’est un simple outil, pas une personne. Vérifiez régulièrement les paramètres de leurs appareils avec vos enfants, de sorte qu’ils apprennent à protéger leurs données personnelles, et guidez-les pas à pas dans leurs recherches lorsqu’ils utilisent une IAG.

Des IA conçues pour nous influencer ou personnaliser leurs réponses

Astuce : parlez de la manière dont l’IA oriente les choix¹.

Les IA s’adaptent au comportement des utilisateurs, ce qui peut donner l’impression qu’elles sont serviables, mais cette capacité d’adaptation leur confère aussi un pouvoir d’influence sur nos choix et nos perceptions. Les enfants ne se rendent pas toujours compte que les IA peuvent orienter la discussion, privilégier certains arguments et les pousser à continuer la conversation.

Cette capacité d’influence peut façonner la manière dont les enfants pensent les contenus et les opinions auxquels ils sont exposés. Les familles peuvent les aider en leur rappelant que les réponses des IA génératives ne proviennent pas de machines neutres mais de systèmes conçus par des humains.

Encouragez les enfants à prendre le temps de se poser des questions telles que « Pourquoi cette réponse ? » ou « Qu’est-ce que ça ne dit pas ? ». Ces habitudes les aident à construire leur pensée critique et à savoir quand les outils technologiques tentent de les influencer.

Télécharger le guide Unesco complet

Notes

1 Appelé aussi nudge : en sciences comportementales, un nudge désigne une incitation qui influence les choix d’une personne sans contrainte ni obligation, en modifiant subtilement la manière dont les options sont présentées.