EU-Chatkontrolle: Mitgliedstaaten einigen sich hinter verschlossenen Türen

Vertreter der EU-Mitgliedstaaten haben sich am Mittwoch auf die Ratsposition zur Chatkontrolle geeinigt – zunächst auf freiwilliger Basis. Drei Jahre nach Inkrafttreten soll die EU-Kommission jedoch prüfen, ob es eine Verpflichtung der Anbieter braucht.

Das neue Gesetz soll digitale Unternehmen dazu bewegen, die Verbreitung von Material über sexuellen Missbrauch von Kindern sowie die Anwerbung von Kindern zu verhindern, so der EU-Rat in einer Pressemitteilung.

Die zuständigen nationalen Behörden sollen dadurch die Befugnis erhalten, Unternehmen zu verpflichten, solche Inhalte zu entfernen und den Zugang zu blockieren oder – im Fall von Suchmaschinen – entsprechende Suchergebnisse zu löschen. Die Verordnung schafft zudem eine neue EU-Agentur, die die Mitgliedstaaten und Online-Anbieter bei der Umsetzung des Gesetzes unterstützen soll.

Ein EU-Zentrum für die Chatkontrolle

Das „EU-Zentrum für sexuellen Missbrauch von Kindern“ wird demnach Informationen von Online-Anbietern zu Missbrauchsmaterial bewerten, eine Datenbank zur Meldung solcher Inhalte führen und die nationalen Behörden bei der Risikobewertung unterstützen. Es wird auch Daten an Europol und nationale Strafverfolgungsbehörden weitergeben und eine Datenbank mit Indikatoren für sexuellen Missbrauch einrichten, die Unternehmen für ihre freiwilligen Maßnahmen nutzen können. Der Rat hat allerdings noch nicht entschieden, wo das EU-Zentrum seinen Sitz haben wird; diese Entscheidung wird gemeinsam mit dem Europäischen Parlament getroffen.

Online-Diensteanbieter müssen künftig das Risiko bewerten, dass ihre Plattformen für die „Verbreitung von Missbrauchsmaterial“ oder die „Anwerbung von Kindern“ missbraucht werden können. Auf Basis dieser Bewertung sind sie verpflichtet, Risikominderungsmaßnahmen zu ergreifen, wie etwa Tools zur Meldung von Missbrauch, die Kontrolle über geteilte Inhalte und die Einführung von Standard-Datenschutzeinstellungen für Kinder.

Die Mitgliedstaaten werden nationale Behörden benennen, die die Risikobewertungen und die Umsetzung von Maßnahmen überwachen. Bei Nichteinhaltung könnten Strafzahlungen verhängt werden. Der Rat führt drei Risikokategorien für Online-Dienste ein: hoch, mittel und gering. Anbieter in der Hochrisikokategorie können verpflichtet werden, an der Entwicklung von Technologien zur Risikominderung mitzuwirken.

Basierend auf der Einigung vom Mittwoch kann der Rat nun mit dem Europäischen Parlament über die endgültige Verordnung verhandeln. Das Parlament hat seine Position bereits im November 2023 festgelegt. Der nächste wichtige Meilenstein ist der EU-Innenministerrat im Dezember. Es könnte ein Trilog mit dem Parlament folgen, mit einer endgültigen Abstimmung im Jahr 2026.

Kritiker des Gesetzes werfen der EU-Kommission vor, mit der Chatkontrolle ein System zur Massenüberwachung privater Nachrichten zu etablieren. Der ursprüngliche Entwurf, der seit Jahren kontrovers diskutiert wird, sah vor, Messaging-Dienste unter bestimmten Bedingungen zu verpflichten, die Kommunikation ihrer Nutzer zu scannen, um Missbrauchsdarstellungen zu entdecken.

EU-Chatkontrolle: „Freiwilligkeit“ statt „Pflicht“?

Trotz wiederholter Blockaden und massiver Kritik wegen der Verletzung von Privatsphäre und Grundrechten wurde der Entwurf immer wieder angepasst, sodass mittlerweile zumindest eine „freiwillige“ Chatkontrolle ermöglicht wurde. Diese war seit 2002 in der EU verboten, jedoch seit 2021 unter bestimmten Bedingungen vorübergehend erlaubt. Mit dem neuen Gesetz soll sie nun dauerhaft etabliert werden.

Derzeit dürfen Anbieter von Messaging-Diensten beispielsweise freiwillig Inhalte, die auf ihren Plattformen geteilt werden, auf Material über sexuellen Missbrauch von Kindern scannen, es melden und entfernen. Diese Ausnahme wird durch eine Befreiung von bestimmten Vorschriften im Bereich der elektronischen Kommunikation ermöglicht. Obwohl diese Befreiung am 3. April 2026 auslaufen soll, wird sie laut der Ratsposition weiterhin gelten.