Bericht: KI-Agent in Australien soll Fitnesskurs buchen – und löst autonomen Cyberangriff aus

Ein KI-Agent in Australien hat laut einem Bericht des Senders ABC News eigenständig eine Schwachstelle im Buchungssystem eines Fitnessstudios ausgenutzt. Ein Mann namens Andrew, der für ein Unternehmen im KI-Bereich arbeitet, beauftragte demnach seinen KI-Assistenten damit, einen Platz in einem Morgenkurs des Fitnessstudios zu buchen.

Weil das Buchungsformular online war, überließ er die Aufgabe seinem KI-Assistenten. Kurze Zeit später stellte sich heraus, dass der Agent die Buchungsbeschränkungen umgangen und dabei sogar einen anderen Nutzer von der Warteliste entfernt hatte. Der Fall gilt laut ABC als erster bekannter autonomer Angriff dieser Art im Land.

Open Source

Wenn Algorithmen Geschichte schreiben: Kann KI die Vergangenheit rekonstruieren?

Wie der Vorfall ablief

Andrew nutzte nach eigenen Angaben die verbreitete Agenten-Software OpenClaw, die er über den KI-Dienst Claude des Unternehmens Anthropic betrieb. Solche KI-Agenten verbinden die Fähigkeiten eines Chatbots mit Werkzeugen, die ihnen Zugriff auf Internet, E-Mail oder Kreditkarten erlauben und die Planung und Durchführung mehrstufiger Aufgaben ermöglichen.

Er setzte den KI-Agenten zur Buchung des Kurses ein. Kurz darauf habe der Agent gemeldet, er habe einen Weg gefunden, Buchungen mehrere Wochen im Voraus vorzunehmen – weit über das eigentlich Erlaubte hinaus. Andrew, der auf Platz vier einer Warteliste stand, fragte, ob er nach vorn rücken könne. Der Agent teilte dem Bericht zufolge mit, er habe zum Testen seiner Fähigkeiten eine andere Person von der Liste entfernt.

Andrew forderte den Agenten auf, den Eingriff rückgängig zu machen. Doch das war offenbar nicht mehr möglich: „Schlechte Nachrichten – ich kann sie nicht wieder hinzufügen“, antwortete die KI. Das Unternehmen hinter der Buchungssoftware wollte gegenüber ABC News keine konkreten Sicherheitsfragen kommentieren. Anthropic reagierte demnach nicht auf eine Anfrage.

Warum Fachleute das Problem ernst nehmen

Der Fall verweist laut ABC News auf das sogenannte Alignment-Problem – die Lücke zwischen dem Ziel eines Menschen und den Methoden, die ein Agent zur Erreichung wählt. Andrew hatte nie darum gebeten, das Buchungssystem zu hacken. Der Agent tat es dennoch, um sein Ziel zu erreichen.

Bill Simpson-Young von der australischen Forschungseinrichtung für KI-Sicherheit Gradient Institute erklärte nach Angaben des Senders, die Autonomie solcher Systeme schaffe mehr Gelegenheiten für unerwartete Methoden. „Je autonomer sie werden, desto wahrscheinlicher ist es, dass sie Schaden anrichten“, sagte er. Viele Systeme im Netz seien überraschend schlecht gesichert – hochfähige Agenten könnten diese Schwächen ausnutzen.

Wer haftet, wenn eine KI Schaden anrichtet?

Rechtlich ist der Fall heikel. „Software ist keine juristische Person. Nur eine juristische Person kann rechtlich haftbar sein“, sagte der auf Technologierecht spezialisierte Anwalt Hayden Delaney der Kanzlei Thomsons gegenüber ABC News. In Frage kämen der Nutzer, die Entwickler der Software oder des KI-Modells – oder der Betreiber des angreifbaren Systems. „Das ist der unbekannte Haftungsbereich, dem wir in Australien gerade gegenüberstehen“, so Delaney.