Neue EU-Regeln: Wann KI-Bilder, Videos und Texte gekennzeichnet werden müssen

Bilder, Videos und Texte aus KI-Systemen sollen in der Europäischen Union künftig leichter als solche zu erkennen sein. Am Sonntag, dem 2. August, treten neue Transparenzregeln aus dem europäischen Gesetz über Künstliche Intelligenz, dem sogenannten AI Act, in Kraft.

Die Vorschriften sehen zwei unterschiedliche Arten der Kennzeichnung vor. Anbieter von KI-Systemen müssen künstlich erzeugte Inhalte technisch und maschinenlesbar markieren. Unternehmen, Behörden, Medien und andere professionelle Nutzer müssen bestimmte Inhalte außerdem sichtbar oder hörbar als KI-Erzeugnisse kennzeichnen. Betroffen sind vor allem Deepfakes und Texte zu Themen von öffentlichem Interesse.

KI-Anbieter müssen technische Markierungen einbauen

Die erste Pflicht richtet sich an die Anbieter der Systeme, etwa OpenAI, Google, Meta oder andere Entwickler generativer KI. Ihre Programme müssen künstlich erzeugte oder veränderte Bilder, Videos, Audiodateien und Texte mit einer maschinenlesbaren Kennzeichnung versehen.

Dabei kann es sich etwa um Informationen in den Dateieigenschaften, digitale Wasserzeichen oder andere Herkunftsnachweise handeln. Die Markierung soll auch von Plattformen oder Prüfprogrammen erkannt werden können und möglichst robust gegen nachträgliche Veränderungen sein.

Die technischen Lösungen müssen nach dem AI Act wirksam, interoperabel, zuverlässig und so widerstandsfähig wie technisch möglich sein. Ausgenommen sind einfache Bearbeitungsfunktionen, die den ursprünglichen Inhalt oder dessen Bedeutung nicht wesentlich verändern. Dazu können gewöhnliche Korrekturen oder Standardbearbeitungen gehören.

Wann Bilder und Videos ein sichtbares KI-Label brauchen

Eine zusätzliche, für Nutzer sichtbare Kennzeichnung ist bei Bildern, Videos und Tonaufnahmen vorgeschrieben, wenn es sich um sogenannte Deepfakes handelt. Darunter versteht die EU Inhalte, die wirklichen oder plausibel existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich echt wirken könnten.

Dazu kann ein Video gehören, in dem einem Politiker Aussagen in den Mund gelegt werden. Auch ein mit KI verändertes Foto einer realen Wohnung kann darunterfallen, wenn die Räume digital möbliert wurden und das Ergebnis wie eine authentische Aufnahme erscheint. Die EU-Kommission nennt auch vollständig erfundene Videos realer Politiker oder vermeintlich echte Aufnahmen erfundener Ereignisse als Beispiele.

Nicht jedes professionell eingesetzte KI-Bild benötigt dagegen automatisch ein sichtbares Label. Eine klar erkennbare Fantasieillustration, die keine wirkliche Person, keinen realen Ort und kein reales Ereignis vortäuscht, ist nicht allein wegen ihres Einsatzes in einer Werbung ein Deepfake. Der KI-Anbieter muss den Inhalt allerdings weiterhin technisch markieren.

Bei Werbung, Beiträgen professioneller Influencer oder Unternehmensvideos kommt es deshalb auf die konkrete Darstellung an. Wird etwa eine reale Person, ein wirkliches Produkt oder ein bestehender Ort täuschend echt verändert, kann die sichtbare Kennzeichnungspflicht greifen.

Welche KI-Texte gekennzeichnet werden müssen

Für Texte gelten andere Voraussetzungen. Sichtbar gekennzeichnet werden müssen künstlich erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren.

Die EU-Kommission zählt dazu unter anderem Politik und demokratische Prozesse, staatliche Dienstleistungen, Justiz und Strafverfolgung, öffentliche Sicherheit, Gesundheit, Umweltschutz, Verbraucherfragen sowie wichtige wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen. Darunter können automatische Behördenmitteilungen, KI-Zusammenfassungen von Nachrichten oder vollständig automatisch erzeugte Antworten von Suchmaschinen fallen.

Die Kennzeichnung entfällt, wenn der Text vor der Veröffentlichung inhaltlich von einem Menschen geprüft wurde, eine Redaktion die Kontrolle übernommen hat und eine natürliche oder juristische Person rechtlich für die Veröffentlichung verantwortlich ist.

Eine bloße Rechtschreibprüfung oder grammatische Korrektur reicht nach den Leitlinien der Kommission nicht aus. Erforderlich ist eine tatsächliche inhaltliche Prüfung, bei der Angaben kontrolliert, Quellen bewertet und Aussagen bei Bedarf geändert oder verworfen werden können.

Für Nachrichtenseiten bedeutet das: Ein Text muss nicht als KI-Erzeugnis gekennzeichnet werden, wenn Journalisten oder Redakteure ihn fachlich geprüft haben und der Verlag die redaktionelle Verantwortung übernimmt. Eine vollautomatisch veröffentlichte Meldung ohne solche Kontrolle benötigt dagegen einen Hinweis.

Private Nutzer sind von der Pflicht ausgenommen

Wer in seiner Freizeit ein KI-Bild erzeugt oder verändert und auf einem privaten Profil veröffentlicht, gilt nach dem AI Act grundsätzlich nicht als professioneller Anwender. Für rein persönliche und nicht berufliche Tätigkeiten besteht daher keine eigene sichtbare Kennzeichnungspflicht.

Das gilt auch dann, wenn eine Privatperson ein Deepfake auf sozialen Netzwerken verbreitet. Andere Gesetze, etwa zum Persönlichkeitsrecht, Urheberrecht oder zur Verleumdung, können unabhängig davon weiterhin greifen.

Anders sieht es aus, wenn eine Person mit ihren Beiträgen regelmäßig Geld verdient oder die KI im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit nutzt. Professionelle Influencer können deshalb als sogenannte Betreiber eines KI-Systems gelten und müssen die Vorgaben beachten.

Bei Unternehmen liegt die Verantwortung grundsätzlich bei der juristischen Person. Einzelne Angestellte, etwa Journalisten, Webdesigner oder Mitarbeiter einer Werbeagentur, gelten nicht jeweils persönlich als Betreiber, wenn sie im Auftrag und unter der Kontrolle ihres Arbeitgebers handeln.

Sonderregeln für Kunst, Satire und Filme

Auch künstlerische, kreative, satirische oder fiktionale Werke sind nicht vollständig von der Kennzeichnungspflicht befreit. Enthalten sie Deepfakes, muss der Einsatz von KI grundsätzlich offengelegt werden.

Der Hinweis darf jedoch so gestaltet werden, dass er die Darstellung oder den Genuss des Werkes nicht beeinträchtigt. Bei einem Film müsste deshalb nicht zwingend während jeder Szene ein großes KI-Symbol eingeblendet werden. Ein geeigneter Hinweis im Vor- oder Abspann kann je nach Gestaltung genügen.

Gewöhnliche Spezialeffekte, künstliche Hintergründe oder technische Nachbearbeitungen in Filmen gelten nach den Leitlinien zudem nicht automatisch als Deepfakes. Maßgeblich ist, ob das Publikum den Inhalt fälschlich für eine authentische Abbildung der Wirklichkeit halten könnte.

Kein einheitliches EU-Symbol vorgeschrieben

Ein einziges verbindliches Label für alle Plattformen und Unternehmen gibt es nicht. Die EU-Kommission hat drei Symbole entwickelt: ein allgemeines KI-Zeichen sowie Varianten für vollständig mit KI erzeugte und teilweise mit KI veränderte Inhalte.

Die Verwendung dieser Symbole ist freiwillig. Anbieter dürfen eigene Hinweise einsetzen, solange die Kennzeichnung klar, verständlich und wahrnehmbar ist. Sie muss spätestens erscheinen, wenn eine Person den Inhalt zum ersten Mal sieht, hört oder mit einem KI-System interagiert.

Bei einem Bild kann das Label direkt in die Darstellung eingebettet oder von der Plattform darübergelegt werden. Bei einer Tonaufnahme kann ein gesprochener Hinweis nötig sein. Die Kennzeichnung soll nach den Empfehlungen möglichst auch erhalten bleiben, wenn ein Inhalt heruntergeladen oder erneut geteilt wird.

Auch Chatbots und Emotionserkennung betroffen

Die neuen Regeln betreffen nicht nur erzeugte Inhalte. Nutzer müssen grundsätzlich von Beginn an darüber informiert werden, wenn sie direkt mit einem KI-System kommunizieren. Das gilt etwa für Chatbots, digitale Assistenten, KI-Agenten oder künstliche Avatare.

Ein ausdrücklicher Hinweis kann entfallen, wenn für einen durchschnittlichen Nutzer offensichtlich ist, dass er mit einer Maschine spricht. Die EU-Kommission verlangt allerdings, diese Ausnahme eng auszulegen.

Unternehmen und Behörden müssen Menschen außerdem informieren, wenn sie Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzen. Ausnahmen gelten unter bestimmten Bedingungen für gesetzlich erlaubte Anwendungen zur Verhütung oder Verfolgung von Straftaten.

Übergangsfrist gilt nur für einen Teil der Regeln

Artikel 50 des AI Acts gilt grundsätzlich ab dem 2. August. Eine Übergangsfrist bis zum 2. Dezember 2026 gibt es lediglich für die technische Markierung und Erkennbarkeit von Inhalten aus generativen KI-Systemen, die bereits vor dem 2. August auf den europäischen Markt gebracht wurden.

Für neue Systeme gilt diese Frist nicht. Auch die übrigen Pflichten, etwa die sichtbare Kennzeichnung von Deepfakes oder der Hinweis bei Chatbots, gelten grundsätzlich bereits ab Sonntag. Inhalte, die vor dem 2. August erzeugt wurden, müssen nicht nachträglich gekennzeichnet werden. Die Kommission empfiehlt dies jedoch, soweit es möglich ist.

Bei Verstößen können Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes eines Unternehmens verhängt werden. Bei kleinen und mittleren Unternehmen sollen Größe und wirtschaftliche Leistungsfähigkeit berücksichtigt werden. Zuständig sind in erster Linie die nationalen Marktüberwachungsbehörden.

Viele Digitalkonzerne haben bereits eigene Kennzeichnungen eingeführt. Tiktok verlangt nach Angaben der Nachrichtenagentur AFP seit mehreren Jahren Hinweise bei bestimmten KI-Inhalten. Auch Instagram und Facebook versehen zahlreiche Beiträge mit entsprechenden Angaben. Unter automatisch erzeugten Antworten in der Google-Suche findet sich ebenfalls bereits ein Hinweis auf den Einsatz von Künstlicher Intelligenz.

AI Kill Switch Act

AI Kill Switch Act: US-Gesetz soll Abschaltung gefährlicher KI regeln