Véronique Béchu est directrice de l’Observatoire e-Enfance/3018 et commandante de police en disponibilité. Depuis 25 ans, elle est engagée dans la protection des mineurs. Elle concentre son action sur la prévention, l’accompagnement et le plaidoyer auprès des politiques publiques en faveur de la sécurité des mineurs dans leur environnement numérique.

Samuel Comblez est directeur général adjoint de l’association e Enfance/3018, psychologue de l’enfance et de l’adolescence avec plus de 20 ans d’expérience en protection de l’enfance. Il travaille sur la protection des mineurs en ligne, les cyberviolences et le harcèlement, ainsi que sur l’exposition à la pornographie et l’éducation à la vie affective, relationnelle et sexuelle.

La fabrique du faux, nouvelle arme du harcèlement

Un mineur ouvre son téléphone. Il découvre son visage, son corps, sa voix dans une scène qu’il n’a jamais vécue. L’image est fausse, mais la situation paraît vraie. En quelques partages sur les réseaux sociaux ou les messageries, elle devient un piège. La rumeur court plus vite que la vérité et le cauchemar commence.

Pour le mineur, ce n’est pas seulement une image truquée, c’est une trahison du réel. Son visage devient étranger et sa voix un moyen d’intimider. Le corps réagit avant la raison par la peur, la honte ou la sidération et le cerveau ne distingue plus le vrai du faux. La blessure psychique s’installe. Le jeune se sent coupable d’un acte qu’il n’a pas commis et il est sali par un mensonge difficilement effaçable.

Bienvenue dans l’ère où l’on peut détruire un mineur sans jamais le croiser ! L’ère où l’intelligence artificielle fabrique des humiliations sur mesure et offre aux harceleurs des armes capables d’anéantir une réputation en quelques minutes. Ce n’est plus le harcèlement que nous connaissions, c’est un harcèlement démultiplié, automatisé, algorithmique, une violence froide et sans contact, d’une redoutable efficacité.

Nous vivons une mutation silencieuse. Une génération entière grandit dans un monde où l’image peut mentir, où l’intime peut être volé sans jamais avoir été partagé et où la preuve n’est plus gage de véracité. Notre responsabilité est simple : protéger les enfants et les adolescents d’une violence sans limites et bâtir, ensemble, un cadre capable de les défendre dans ce nouvel espace où tout peut être créé, même le mensonge.

Le nouveau visage du harcèlement

Le harcèlement, c’est l’agression répétée et malveillante d’une personne par une ou plusieurs autres visant à la déstabiliser, la contrôler ou la détruire psychologiquement. Il peut prendre de nombreuses formes : moqueries, violences physiques, insultes, rumeurs, y compris en ligne. Auparavant, le harcèlement pouvait reposer sur du vrai, s’enracinant dans une réalité, même si celle-ci était manipulée, aussi douloureuse soit-elle. Aujourd’hui, avec les nouvelles technologies, tout peut être façonné, inventé. La vérité, qui servait hier de rempart contre la fausse représentation et la manipulation, ne protège plus personne.

La frontière entre le réel et le faux s’est aujourd’hui dangereusement effacée. Ce n’est plus seulement une crise du sens, mais une crise profonde de la confiance. Les outils numériques récents permettent de fabriquer des contenus d’un réalisme saisissant, puis de les diffuser instantanément et à grande échelle. Ainsi, un mineur¹ peut se retrouver accusé de propos qu’il n’a jamais tenus à partir d’un enregistrement audio falsifié ou mis en cause dans une vidéo le montrant dans une situation humiliante ou violente qu’il n’a jamais vécue. Une image truquée partagée dans un groupe privé, puis relayée sur les réseaux sociaux, peut suffire à déclencher une vague de moqueries, de menaces ou d’exclusion, sans que la victime n’ait la possibilité de rétablir la vérité. Or, même lorsque des dispositifs de contrôle existent dans les outils d’intelligence artificielle générative (IAG), ils peuvent facilement être contournés, permettant la circulation de contenus manipulés qui prennent l’apparence de preuves incontestables. Pour un enfant ou un adolescent, être confronté à des accusations fondées sur des éléments fabriqués de toutes pièces est une injustice absolue. Comment se défendre quand le faux a la texture du vrai ? Comment prouver son innocence lorsque ce qui est présenté comme une preuve devient une arme ? Cette violence d’un nouveau genre ne détruit pas seulement l’image sociale d’un jeune : elle fissure en profondeur son rapport au monde, à la confiance, à la vérité et à lui-même.

A., 14 ans : prisonnière d'une image qui n'existe pas

L’adolescente n’a jamais envoyé de photo intime. Pourtant, un matin, un inconnu lui en transmet une : son visage posé sur un corps nu. Le montage est crédible. L’intelligence artificielle a fait le reste à partir d’une photo trouvée sur son compte TikTok. Le message est glaçant : « Si tu ne veux pas que toute ta classe voie ça, obéis. » Menace, chantage, silence… terreur. Cette adolescente de 14 ans n’a rien fait et pourtant elle se sent coupable. Le cerveau, trompé par l’image, ressent la honte comme si l’événement avait eu lieu. La victime est piégée dans une réalité parallèle où son image ne lui appartient plus et peut être diffusée sans qu’elle n’ait aucune maîtrise ni aucun moyen de stopper les publications².

En France, le 3018, numéro national d’aide aux victimes de violences numériques et de harcèlement opéré par l’association e-Enfance/3018, reçoit quotidiennement de tels signalements, comme l’ensemble des helplines du réseau européen Insafe qui alertent sur l’explosion des sextorsions dopées à l’intelligence artificielle générative (IAG). Ce qui demandait autrefois du temps et de la ruse, séduire, manipuler, obtenir une image, ne l’est plus. Le prédateur n’a plus besoin d’un passé : il le fabrique.

Pourquoi l'IAG rend-elle le harcèlement si dévastateur ?

L’intelligence artificielle générative a transformé notre manière de communiquer et a ouvert un champ nouveau à la violence numérique. Le flou qu’elle peut fabriquer devient le terreau idéal de la pédocriminalité et du harcèlement.

Derrière chaque image trafiquée peut se cacher une intention malveillante. Des deepfakes de mineurs sont aujourd’hui créés à partir de simples photos publiques souvent postées par des parents aimants sur leurs réseaux sociaux. Ces publications sont devenues un réservoir involontaire de matière première pour les cyberprédateurs. Une photo d’anniversaire, un cliché à la plage ou une vidéo attendrissante peuvent être sexualisés par l’IAG générant ainsi des contenus pédocriminels. Ils seront dès lors partagés à l’infini sur des forums dédiés par des individus se déresponsabilisant car prétextant une absence de victime. Mais elle existe toujours : c’est le jeune au visage falsifié, utilisé à son insu, dont la dignité est piétinée.

Les dynamiques du web 2.0 (fondées sur la mise en visibilité et le partage) ont banalisé l’exposition de l’intime et l’IAG en a décuplé les risques. Aujourd’hui, ce que les parents croient inoffensif peut devenir une source d’humiliation ou d’exploitation. Des adolescents découvrent ainsi que leur image apparaît dans des montages sexuels : choc psychique profond assuré nourri d’un sentiment de trahison, de violation de l’intimité et d’irréversibilité.

Le danger n’est donc plus seulement dans la publication mais dans la pérennité et la mutabilité des images. Celles-ci ne disparaissent jamais vraiment, elles peuvent ressurgir, transformées et instrumentalisées.

Face à cette réalité, nous avons un devoir de lucidité et de protection.

– Ne plus poster de telles images par réflexe et se demander : « Que pourrait-on en faire demain ? ». Il convient de limiter strictement la visibilité des images dans un compte privé en ne les rendant accessibles qu’à un entourage proche et en évitant toute publication de données personnelles telles que le nom du mineur, le lieu de scolarisation ou d’activités extrascolaires. Il est impératif de penser à désactiver les options de téléchargement empêchant la récupération des contenus publiés et à ne plus poster de photos facilement détournables comme peuvent l’être celles prises sur la plage ou à la piscine.

– Apprendre aux jeunes (et aux adultes) à maîtriser leur empreinte numérique à l’ère des IAG, leur rappeler que leur image est un bien précieux et non un divertissement collectif. C’est alors à leurs aînés, notamment leurs parents, de n’avoir de cesse de leur rappeler que leur image leur appartient et que la partager en ligne les en dépossède définitivement.

– Reconnaître que derrière chaque image détournée, il y a une enfance fragilisée et une société entière qui doit choisir entre la naïveté du partage et la responsabilité de la protection. Dès lors, tout parent, et plus largement toute personne confrontée à la circulation de ces contenus illégaux, doit les signaler afin que les autorités s’en saisissent.

La force du collectif à l'échelon international

Partout où les institutions politiques et la société civile ont pris la mesure du phénomène, une même conviction s’impose : prévention, régulation, protection et éducation doivent progresser au même rythme que la technologie pour garantir un environnement en ligne plus sûr et plus humain.

En Europe, le Digital Services Act (DSA) marque un tournant en imposant aux grandes plateformes de renforcer leur vigilance et leurs actions face aux contenus illicites. Cependant, la loi ne suffit pas. La protection se construit aussi sur le terrain. Ainsi le programme Klicksafe allemand, soutenu par la Commission européenne, forme enseignants, parents et jeunes à un usage responsable du numérique et développe l’esprit critique. Au Royaume-Uni, l’Internet Watch Foundation (IWF) traque la diffusion d’images d’abus sexuels sur mineurs et sensibilise les familles à la sécurité en ligne à travers son programme Talk. Au Québec, la mallette Sexto, qui associe écoles, police et justice, permet une intervention rapide en cas de diffusion d’images intimes non consenties. Et dernièrement, certains États américains ont fait du deepfake sexuel un délit grave.

Ces initiatives démontrent qu’un numérique plus sûr repose sur un ensemble : formation, responsabilisation, écoute et sanction.

Parents : protéger et accompagner

Protéger un mineur dans le monde numérique d’aujourd’hui ne signifie pas tout contrôler, mais entretenir un lien solide empreint de confiance. Loin d’être un garde du corps numérique, l’adulte doit écouter, expliquer et rassurer.

Quelques réflexes simples peuvent tout changer.

– Parler tôt : aborder internet comme on parle de sécurité routière dès les premiers usages numériques. Des mots simples, répétés, pour que l’enfant sache qu’il peut tout dire sans crainte d’être jugé et que le numérique est un sujet comme un autre.

– Cadrer : leur apprendre à paramétrer les comptes en privé, choisir les contacts connus, maîtriser les photos partagées. Ces gestes ne brident pas la liberté, ils la protègent.

– Accompagner : accompagner les usages numériques, c’est aussi demander aux enfants de nous montrer et de nous apprendre. L’enjeu n’est pas de tout savoir, mais de comprendre. Fermer les yeux sur ce qui occupe leurs journées, parfois autant que l’école, c’est laisser le numérique prendre une place que les adultes auraient dû garder : celle du sens, du repère et du discernement.

– S’intéresser : à l’instar de la question « Comment s’est passée ta journée à l’école ? », leur poser régulièrement la question « Comment s’est passée la consultation de ton réseau social/ta session de jeux ? » ou encore « Un commentaire/un contenu t’a-t-il posé question ou mis mal à l’aise ? ». Ces questions ouvrent un espace de dialogue là où le silence s’installe. Elles disent : ce monde numérique qui t’occupe m’intéresse, parce que, toi, tu m’intéresses.

– Réagir vite : en cas de contenu humiliant, ne jamais céder au chantage ni payer. Garder les preuves (capture d’écran, etc.), alerter immédiatement les organismes de soutien aux mineurs harcelés dans votre pays, son établissement scolaire, demander la suppression du contenu et accompagner l’enfant ou l’adolescent dans la durée car les usages et les risques évoluent avec l’âge.

Un mineur blessé n’a pas besoin qu’on lui éteigne son écran mais qu’on lui rallume un repère. Il faut accorder la priorité à une présence humaine plutôt qu’à toute solution technique. Ce qu’il faut réparer, ce n’est pas une image abîmée mais le regard sur soi et la confiance en l’autre.

Choisir le camps des mineurs : ce que doivent faire Etats et plateformes

La violence numérique se propage comme une onde instantanée, virale. La réponse publique reste souvent lente, procédurale.

Deux urgences s’imposent donc.

– Retirer immédiatement et simplement tout contenu préjudiciable visant un mineur. Chaque minute compte quand la honte se propage.

– Coopérer systématiquement avec les signaleurs³ de confiance reconnus, comme les helplines désignées.

L’intelligence artificielle doit devenir une alliée de la protection, pas un vecteur d’atteinte. Elle peut repérer les deepfakes, tracer l’origine des contenus, déclencher des alertes automatiques et signaler les manipulations. Ce que la technologie a rendu possible pour le pire, elle doit désormais le rendre obligatoire pour le meilleur. Ainsi, l’utilisation de l’IAG pour détecter les contenus générés par cette technologie est une question centrale de responsabilité publique. États et plateformes ne peuvent plus se contenter de subir des contenus artificiels qu’ils contribuent eux-mêmes à rendre possibles. L’IAG doit être mobilisée pour identifier automatiquement les images, les vidéos et les voix synthétiques, en particulier lorsqu’elles ciblent ou mettent en scène des mineurs. Détecter l’artifice, signaler la manipulation, ralentir la viralité : ces capacités doivent être intégrées nativement aux services numériques. Ne pas le faire, c’est accepter que l’opacité technologique protège les agresseurs plutôt que les enfants. Choisir leur camp, c’est imposer que toute puissance de génération soit assortie d’une puissance équivalente de détection et de protection. Parce qu’un monde numérique responsable ne se mesure pas à sa puissance, mais à sa capacité à protéger les plus vulnérables.

Télécharger le guide Unesco complet

Notes

1 « ONG Public Citizen exhorte OpenAI à retirer l’appli vidéo d’IA Sora, pour risques de deepfakes », Euronews, 12 novembre 2025. https://fr.euronews.com/next/2025/11/12/ong-public-citizen-exhorte-openai-a-retirer-lappli-video-dia-sora-pour-risques-de-deepfake

2 Cas recueillis par le 3018.

3 Un signaleur de confiance est une organisation ou une entité reconnue officiellement pour signaler plus rapidement et de manière prioritaire des contenus illégaux aux plateformes en ligne.