découvrir le compte rendu découvrir l’avis En bref Les pathologies de l’information sont des manifestations anciennes qui n’ont pas attendu l’essor de l’intelligence artificielle (IA) pour polluer l’espace informationnel. Toutefois le progrès technique a considérablement amplifié ces phénomènes et l’IA générative constitue une poche potentielle de désinformation. En effet, l’architecture autorégressive des grands modèles de langage (LLMs), qui produisent en sortie un texte prolongeant le plus vraisemblablement un texte soumis en entrée, se prête à engendrer des « hallucinations » : lorsque le plus vraisemblable l’est insuffisamment alors le rapport à la vérité se distend. Les LLMs présentent aussi des biais dus à une non-neutralité de leurs bases d’entraînement, voulue ou non par leurs éditeurs. Les journalistes et les scientifiques ont déjà produit de nombreux résultats sur les impacts de l’infox en ligne, par exemple sur la formation des opinions et le comportement des citoyens. Il en ressort deux constats importants. Premièrement, la relation entre exposition à la désinformation et changement effectif d’attitude est encore mal connue. Deuxièmement, la désinformation s’intègre dans un ensemble plus vaste de manipulation des contenus impliquant médias traditionnels et acteurs politiques. L’IA générative est susceptible d’amplifier la désinformation en améliorant considérablement la qualité de « l’offre » de fakes (fausses informations). Mais l’IA fournit aussi de nombreux outils pour la lutte contre la désinformation, qu’il s’agisse de débusquer des faux comptes ou encore de détecter des contenus artificiels. L’Europe est en avance dans le développement de ces outils et dans la construction d’un appareil juridique. Si les progrès effectués sont significatifs, l’entraînement des modèles de détection est néanmoins ralenti par l’insuffisance du financement et le nombre encore trop faible de bases de données adaptées. Certains aspects, notamment en matière de sanctions, gagneraient à y être ajoutés. Michèle SEBAG, Joëlle TOLEDANO, Chantal JOUANNO, Éric BIERNAT, Nicolas CURIEN