Um Desinformation und Deepfakes im Vorfeld der Berliner Wahlen zum Abgeordnetenhaus am 20. September zu begegnen, hat das Land Berlin ein digitales Angebot gestartet. Seit Mittwochnachmittag ist der KI-gestützte Orientierungscheck Gretchen AI offiziell online.

Innensenatorin Spranger, Landeswahlleiter Professor Stephan Bröchler und der Entwickler Tim Polzehl stellten das Tool vor. Das Angebot richtet sich an Bürger, die ihnen verdächtige Inhalte aus sozialen Netzwerken wie Instagram, X und TikTok überprüfen lassen möchten. Über den Instagram-Account „gretchen_ai_berlin“ können Nutzer öffentlich geteilte Beiträge, Bilder oder Videos per Direktnachricht einsenden. Eine WhatsApp-Erweiterung ist geplant.

Die Software analysiert die Einsendungen innerhalb weniger Minuten auf drei Ebenen. Erstens bezüglich technischer Manipulation. Dabei prüfen Algorithmen Bild- und Videomaterial auf Spuren von Deepfakes oder KI-Generierung. Darüber hinaus gibt es den Behauptungsabgleich: Dabei werden „Behauptungen“ automatisiert mit einer Datenbank aus rund 300.000 verifizierten Faktenchecks (unter anderem des International Fact-Checking Networks, IFCN) abgeglichen. Drittens wird ermittelt, in welchen narrativen Zusammenhängen ein Thema im Internet diskutiert wird, um ein breiteres Lagebild darzustellen.

Das Tool gibt den Angaben Sprangers und des Entwicklers zufolge keine politischen Wahlempfehlungen ab, sondern liefert Hinweise für die eigenständige Meinungsbildung. Auf Nachfrage dieser Zeitung bezüglich rechtlicher Grundlagen und EU-Richtlinien, auf die sich das Projekt stützt, erklärten die Verantwortlichen, dass die „Gretchenfrage“ konform mit europäischen Standards wie dem Gesetz über Künstliche Intelligenz (AI Act) sowie den Datenschutzbestimmungen (DSGVO) agiert. Landeswahlleiter Bröchler betonte zudem die Bedeutung des Austauschs mit Social-Media-Plattformen wie Meta, um einen Beitrag zur Sicherheit zu leisten.

Die Technologie basiert auf Forschungsprojekten der TU Berlin und ist eine Ausgründung des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI). Ein Testpilot des Systems wurde bei der rheinland-pfälzischen Landtagswahl im März erprobt. Dort verzeichnete der Service laut Dr. Bolz rund 20.000 Nutzer und über 8000 Beiträge. Wissenschaftlich ausgewertet wurde aber nur die Nutzung von 300 Usern.

1,2 Millionen Hackerangriffe – pro Monat

Die Organisation und Absicherung der Wahl kostet rund 7,6 Millionen Euro. Neben dem KI-Tool, das den Senat 185.000 Euro und die EU 310.000 Euro kostet, umfasst das Sicherheitskonzept Schulungen für Wahlhelfer, Back-ups des Melderegisters sowie strenge Update-Fristen für das IT-Dienstleistungszentrum Berlin (ITDZ).

Senatorin Spranger verwies darauf, dass das ITDZ monatlich etwa 1,2 Millionen Angriffe bewältigen muss, die unter IT-Staatssekretär Florian Hauer abgewehrt werden müssen. Vorgänger Hauers war Matthias Hundt. Spranger ließ sich einen kleinen Seitenhieb auf die Personalauswahl des Regierenden Bürgermeisters Kai Wegner (CDU) nicht nehmen. Wegner hatte Hundt zum Staatssekretär gemacht. Doch Hundt hielt sich nur einige Monate. Die Staatsanwaltschaft Dresden ermittelt gegen ihn wegen des Verdachts der Untreue.

Digitalchef tritt ab

Hundt zieht Leine

Landeswahlleiter Bröchler machte am Mittwoch aber auch deutlich, dass es im Vorfeld der Berliner Wahlen angesichts gezielter Desinformationskampagnen und Hackerangriffe keinen fehlerfreien, hundertprozentigen Schutz geben könne. Als Gegenmaßnahme setzt er auf die Wehrhaftigkeit und Kreativität der Demokratie: „Es gibt aber keinen hundertprozentigen Schutz, das gehört eben auch zur Wahrheit dazu. Aber was wir tun können, ist, wir können wachsam sein, wir können zusammenarbeiten, zum Beispiel mit der Wissenschaft.“ Durch diese enge Kooperation zwischen staatlichen Stellen, Wissenschaft und Zivilgesellschaft sollen die Berliner von potenziellen Opfern der Desinformation zu „kritischen Nutzern“ werden, um am Wahltag eine selbstbestimmte Entscheidung zu treffen.