Étude du cep : Les populistes européens s'appuient de plus en plus sur l'IA

« Si nous pensons aux élections européennes de l'année prochaine, les règles existantes sur la modération des contenus, telles qu'elles sont prévues par la loi sur les services numériques (DSA), sont déjà dépassées à l'ère de l'IA générative », prévient Anselm Küsters, expert des questions numériques basé à Berlin. Il a mené l'étude avec les chercheurs du cep Camille Réau de Fribourg, Victor Warhem de Paris et Eleonora Poli de Rome. Ensemble, ils préconisent une approche « ex-ante », pour lutter contre le populisme numérique sur les plateformes.

« Avec des outils d'IA générative comme ChatGPT et Midjourney, il est possible de créer des systèmes automatisés pour générer de la désinformation et des deepfakes qui peuvent être diffusés rapidement, à peu de frais et sans connaissances techniques », explique Eleonora Poli. « Ces contenus générés artificiellement peuvent donner l’impression d’avoir été produits par des humains et renforcent ainsi considérablement la puissante de frappe des forces populistes, qui ont ainsi le pouvoir, d’une certaine manière, de se démultiplier » selon M. Warhem.

En conséquence, l'écosystème numérique actuel entrave la fertilisation croisée de différentes perspectives, sape les principes de base du discours démocratique et augmente finalement les chances de succès des mouvements politiques populistes, prévient Camille Réau. Il est donc important de « réparer ce marché numérique des idées défaillant afin de cultiver un discours en ligne plus inclusif et intellectuellement solide qui favorise un véritable échange d'idées ».