Indonesien hat den KI-Chatbot Grok des US-Multimilliardärs Elon Musk als erstes Land der Welt sperren lassen. Grund sei die Erstellung und Verbreitung pornografischer Bilder. Der Zugang zu Grok werde nun vorläufig geblockt, „um Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte“ zu schützen, erklärte am Samstag Digitalministerin Meutya Hafid.

Die Regierung sehe „nicht einvernehmliche“ Deepfakes – KI-generierte, täuschend echte Bilder und Videos – als „schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, hieß es in der Erklärung der Ministerin weiter. Ihr Ministerium bestellte demnach Vertreter von Musks Onlinedienst X ein, über den Grok genutzt werden kann.

Indonesien: Beschwerden über „Spicy Mode“

Ende Dezember war auf X eine Schaltfläche „Bild bearbeiten“ für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den „Spicy Mode“ (doppeldeutig: scharfer Modus), der laut X „rohe“ und „ungefilterte“ Anfragen zulässt, bei denen „kein Thema“ tabu sei.

Musks für Grok zuständige KI-Firma xAI erklärte Anfang Januar, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben. Zu der Sperrung von Grok in Indonesien äußerte sich xAI auf Anfrage der Nachrichtenagentur AFP zunächst nicht, reagiert jedoch auf eine per E-Mail übermittelte Bitte von Reuters um eine Stellungnahme mit einer offenbar automatisierten Antwort: „Legacy Media Lies“. X reagierte zunächst nicht auf eine Anfrage um Stellungnahme.

EU-Kommission prüft ebenfalls Beschwerden

Das mehrheitlich muslimische Indonesien ist das erste Land, das Grok vollständig sperrt. Zuvor war die Nutzung des Tools anderswo auf zahlende Kunden beschränkt worden. EU-Vertreter sowie Aktivisten kritisierten die Entscheidung, die Nutzung von Grok auf zahlende Abonnenten zu begrenzen, jedoch scharf und erklärten, dass damit die Bedenken hinsichtlich sexueller Deepfake-Inhalte nicht ausgeräumt würden.

Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Die Kommission nehme die Beschwerden „sehr ernst“, hatte ein Sprecher am Montag in Brüssel gesagt. Für derartige Bilder gebe es „in Europa keinen Platz“.

Auch in Großbritannien und Australien wird derzeit wegen pornografischer Inhalte über ein Verbot von Grok diskutiert, wie aus einem Bericht des Guardians hervorgeht.