Am Montag stufte die Europäische Kommission ChatGPT als „Very Large Online Search Engine“ (VLOSE) im Sinne des Digital Services Act (DSA) ein. Für OpenAI bedeutet das: Das Unternehmen muss künftig deutlich genauer untersuchen, welche gesellschaftlichen Risiken von seinem KI-Dienst ausgehen und Maßnahmen dagegen ergreifen.

Die Entscheidung ist insbesondere mit Blick auf die kommenden Wahlen in Europa interessant. Denn der DSA verpflichtet sehr große digitale Dienste ausdrücklich dazu, mögliche systemische Risiken für öffentliche Debatten und Wahlprozesse zu untersuchen und Schritte dagegen zu einleiten. Es geht zudem um Datenschutz, Minderjährige, Grundrechte, sogenannte Desinformation, psychisches Wohlbefinden und die Frage, welche Verantwortung ein KI-System trägt, das von Millionen Menschen genutzt wird.

ChatGPT ist für die Kommission das neue Google

Neben der Einstufung von ChatGPT als „Very Large Online Search Engine“, wurden Reddit und Roblox als sehr große Online-Plattformen klassifiziert. Ausschlaggebend für die Einstufung ist die Reichweite des Dienstes. Der DSA sieht für sehr große Plattformen und Suchmaschinen eine Schwelle von 45 Millionen monatlich aktiven Nutzern in der EU vor. Für OpenAI beginnt nun eine viermonatige Übergangsfrist. Danach gelten die zusätzlichen DSA-Pflichten für sehr große Dienste.

Der wichtigste Unterschied liegt bei den sogenannten systemischen Risiken. Unternehmen wie OpenAI müssen regelmäßig untersuchen, welche Auswirkungen ihr Dienst auf die Gesellschaft haben kann. Dazu gehören mögliche Risiken für Grundrechte, die öffentliche Sicherheit und den gesellschaftlichen Diskurs. Auch der Schutz von Minderjährigen spielt eine zentrale Rolle. Untersucht werden sollen außerdem mögliche negative Auswirkungen auf das körperliche und psychische Wohlbefinden.

Hinzu kommen weitere Anforderungen an Transparenz und Risikomanagement. Sehr große Dienste müssen unter anderem nachvollziehbarer machen, wie sie mit Risiken umgehen, und sich auf unabhängige Kontrollen einstellen. Die EU kann bei Verstößen Untersuchungen einleiten und Maßnahmen durchsetzen.

Gefahr von Wahlbeeinflussung durch KI

Der DSA nennt ausdrücklich mögliche negative Auswirkungen auf Wahlprozesse und den öffentlichen politischen Diskurs. Das ist vor dem Hintergrund der kommenden Wahlen relevant. Die Berliner Abgeordnetenhauswahl findet am 20. September 2026 statt – also noch bevor die viermonatige Übergangsfrist für ChatGPT abgelaufen ist.

Anders sieht es bei Wahlen danach aus. Besonders interessant ist die französische Präsidentschaftswahl 2027. Zu diesem Zeitpunkt sollen die neuen Pflichten für ChatGPT bereits gelten. OpenAI muss dann systematisch untersuchen, ob ChatGPT beispielsweise zur Verbreitung politischer Desinformation, zur automatisierten Propaganda oder zur Manipulation von Wählern missbraucht werden kann und geeignete Schutzmaßnahmen ergreifen.

Kritiker bemängeln vor allem, dass der DSA ursprünglich für klassische Online-Plattformen und Suchmaschinen entwickelt wurde und nun auf einen generativen KI-Dienst übertragen wird, also auf eine Technologie, für die das Gesetz keine eigene Kategorie vorsieht. Kritisch wird zudem gesehen, dass weit gefasste Pflichten zur Bewertung von Risiken für gesellschaftlichen Diskurs, psychisches Wohlbefinden oder Wahlen OpenAI einen erheblichen Ermessensspielraum geben. Daraus entsteht die Sorge, dass Risikomanagement indirekt auch beeinflussen könnte, welche politischen Inhalte ein KI-System liefert oder zurückhält.