The Threat of Digital Populism to European Democracy (cepStudie)

„Wenn wir an die Europawahl im kommenden Jahr denken, sind die bestehenden Regeln zur Moderation von Inhalten, wie sie im Gesetz über digitale Dienste (DSA) vorgesehen sind, im Zeitalter von generativer KI bereits veraltet“, warnt der Berliner cep-Digitalexperte Anselm Küsters. Er hat die Studie mit den cep-Forschern Camille Réau aus Freiburg, Victor Warhem aus Paris und Eleonora Poli aus Rom verfasst. Zusammen fordern sie einen indirekten, sogenannten ex-ante-Ansatz zur Bekämpfung des digitalen Populismus auf Plattformen.

„Mit generativen KI-Tools wie ChatGPT und Midjourney ist es möglich, automatische Systeme zur Erzeugung von Fehlinformationen und Deepfakes zu erstellen, die schnell, kostengünstig und ohne technische Kenntnisse verbreitet werden können“, sagt Eleonora Poli. Diese zusätzliche Ebene von Komplexität verwischt laut Warhem die Grenze zwischen von Menschen erzeugten und KI-generierten Inhalten.

Infolgedessen behindere das heutige digitale Ökosystem die gegenseitige Befruchtung verschiedener Perspektiven, untergrabe die Grundprinzipien des demokratischen Diskurses und erhöhe letztlich die Erfolgsaussichten des Populismus, warnt Camille Réau. Wichtig sei daher, „diesen kaputten digitalen Marktplatz für Ideen zu reparieren, um einen integrativeren und intellektuell robusteren Online-Diskurs zu kultivieren, der einen echten Austausch von Ideen fördert“.