Manon Conan est cheffe du département Éducation aux médias et sensibilisation au droit d’auteur à l’Arcom, le régulateur français des médias audiovisuels et numériques.

Les intelligences artificielles génératives (IAG)¹ sont désormais présentes dans toutes les étapes de fabrication de l’information, de sa création à sa diffusion. Leur utilisation pose donc de nouvelles questions sur la manière dont nous comprenons et consommons l’information, dans un contexte de surabondance et de défiance croissante à son égard.

Une révolution dans la production

Les IAG ont cela d’innovant qu’elles permettent de produire du contenu, une tâche autrefois réservée aux humains. C’est en effet dans leur essence : générer du contenu – textuel, visuel ou audio –, en réponse à une requête (aussi appelée « prompt ») d’un utilisateur.

Cette capacité nouvelle soulève de multiples enjeux sur la qualité de l’information, sa transparence, sa traçabilité et sa régulation, tout en suscitant des inquiétudes quant à la prolifération de contenus « synthétiques » (c’est-à-dire fabriqués). Les IAG renforcent les possibilités d’action des acteurs malveillants en leur permettant de créer rapidement du contenu trompeur plus réaliste et convaincant.

Une transformation profonde de l’accès à l’information

La recherche d’information se fait de plus en plus par l’intermédiaire d’agents conversationnels comme ChatGPT, Copilot ou Perplexity. Une nouvelle étape se dessine : on s’éloigne d’un modèle où l’on naviguait entre plusieurs sources pour s’orienter vers une interface unique. Ce modèle renforce le risque d’isolement informationnel, puisque chaque utilisateur reçoit une version personnalisée de l’actualité, qui peut comporter des biais culturels ou politiques, manquer de diversité et de confrontation avec d’autres perspectives.

Un web de plus en plus synthétique

À mesure que l’IAG s’entraîne sur des données déjà créées par des IAG, le web évolue vers ce que certains appellent un « web synthétique », où les machines produisent du contenu consommé… par d’autres machines. Ce phénomène crée un risque de standardisation des discours, appauvrit la diversité des points de vue et renforce les tendances dominantes au lieu de les questionner.

Une amplification de la désinformation

Si la désinformation n’est pas un phénomène né avec le numérique, l’IAG en démultiplie la facilité de création, la vitesse et l’impact : elle permet de créer rapidement de faux contenus crédibles et d’alimenter automatiquement des réseaux de fausses pages ou comptes.

Depuis 2023, plus de 1 121 faux sites d’actualité générés par IAG ont été détectés dans le monde, contre seulement 49 un an plus tôt². Cette dynamique est renforcée par les algorithmes de recommandation, optimisés pour capter notre attention. Les contenus complotistes, émotionnels ou choquants étant souvent plus viraux, ils sont favorisés et circulent plus vite que les informations vérifiées.

Ces technologies, bien ancrées, soulèvent des enjeux majeurs qui ont conduit à l’adoption de nouvelles régulations pour encadrer leur utilisation : le règlement européen sur les services numériques, aussi appelé Digital Services Act (DSA), le règlement européen sur l’intelligence artificielle (RIA) et la directive sur les services de médias audiovisuels (directive SMA).

L’IAG comme levier de lutte contre la propagation des fausses informations

Certaines plateformes ont choisi de s’appuyer sur des outils d’IAG pour lutter contre la propagation de fausses informations : algorithmes dédiés à la lutte contre des comportements malveillants, systèmes de signalement de contenus automatisés, etc. Par ailleurs, certains outils qui visent à aider les utilisateurs à exercer leur esprit critique sur le contenu qu’ils voient s’appuient aussi sur l’IA : le watermarking, qui consiste en l’apposition d’un filigrane numérique pour identifier le contenu généré par IAG, ou encore la promotion de contenus faisant autorité.

Comment aider les jeunes à mieux s’informer à l’ère de l’IAG : des réflexes simples mais essentiels

Dans un environnement où l’information circule rapidement et dans lequel les opinions peuvent être influencées par des informations incorrectes ou manipulées, il est nécessaire d’exercer son esprit critique avec de bons réflexes.

Vérifier et croiser les sources : une information (texte, image, vidéo, etc.) provenant d’une seule source a plus de chance d’être erronée, manipulée, mais également biaisée. Croiser ses sources, en s’appuyant notamment sur des sources faisant autorité, permet de vérifier si une information est vraie et de renforcer sa crédibilité (ex. : faire appel à des fact checkers).

Utiliser des outils d’IAG dédiés à la vérification : de nouveaux outils existent pour analyser une image, identifier un deepfake ou vérifier une déclaration. En France, des services comme l’IA Vera de l’ONG française LaRéponse.tech ou le plugin InVID développé par l’Agence France Presse (déployés à l’international) permettent par exemple de vérifier des contenus via WhatsApp.

Apprendre à « penser contre soi-même » : cette prise de conscience de son propre mode de pensée permet de reconnaître quand notre jugement est influencé par des préférences personnelles, des croyances ou des émotions (des biais cognitifs), plutôt que par des faits objectifs dont on a la preuve. Cela pousse à adopter une approche plus réfléchie et critique face à l’information et de bons réflexes pour éviter les pièges tendus par ces contenus manipulatoires.

L’IAG contribue à redessiner notre rapport au réel. Elle ouvre des possibilités extraordinaires mais renforce aussi les risques de confusion et de manipulation. Face à ces évolutions, la meilleure réponse reste le développement de notre esprit critique : entretenir un rapport actif à l’information, s’équiper d’outils de vérification et apprendre à reconnaître ses biais. S’informer devient alors un acte citoyen.

Notes

1. Voir IA et information : enjeux et outils pour un usage appauvrit la diversité des points de vue éclairé, Arcom - Café IA. www.arcom.fr/sites/default/ et renforce les tendances dominantes au lieu files/2025-04/Arcom-module-pedagogique-IA-et- information-enjeux-et-outils-pour-un-usage-eclaire.pdf de les questionner.

2. « Labels : une fausse bonne idée pour distinguer les IA des humains sur Internet ? », Usbek&Rica, 23 novembre 2024. https://usbeketrica.com/fr/article/labels-une-fausse-bonne-idee-pour-faire-face-aux-flots-de-contenus-generes-par-ia-en-ligne