Chatbot-Raketen

Huthis nutzen KI Claude für Raketen – Anthropic schlägt Alarm

Das amerikanische Unternehmen Anthropic, Entwickler von Claude, hat den Fall offengelegt. Die Schutzmechanismen ließen sich mit einfachen Mitteln umgehen.

4 Min
Huthi-Kämpfer mit einem auf einen Pick-up montierten Geschütz. Die Miliz hat ihre Waffentechnik über Jahre ausgebaut. (Symbolbild)

Huthi-Kämpfer mit einem auf einen Pick-up montierten Geschütz. Die Miliz hat ihre Waffentechnik über Jahre ausgebaut. (Symbolbild)

© Mohammed Hamoud/Imago

Die Huthis haben ihre Offensive entlang der jemenitischen Rotmeerküste ausgeweitet und sind auf die Insel Perim in der Meerenge Bab al-Mandab vorgestoßen. Wie die Terrormiliz Waffen weiterentwickelt, zeigt ein Bericht aus San Francisco. Demnach hat eine Zelle im Norden Jemens nach Angaben des amerikanischen Unternehmens Anthropic mit dem KI-Modell Claude Steuerungssoftware für ballistische Raketen geschrieben.

Nachdem ein Testabschuss gescheitert war, kehrten die Akteure wenige Stunden später zu dem Modell zurück, um die Ursache zu klären. Das geht aus dem Bericht hervor, den Anthropic veröffentlicht hat, wie die Financial Times (FT) als erstes Medium mitteilte.

Der amerikanische Konzern benennt die Huthis nicht und wollte auf Nachfrage nicht bestätigen, dass es sich um sie handelt. Die Firma schreibt von einer Zelle im Norden Jemens, einem Gebiet, das seit 2014 unter Kontrolle der Huthi-Miliz steht. Die Gruppe bezieht Waffen und Technik aus dem Iran und wird von den USA als Terrororganisation eingestuft. Ein Vertreter des politischen Büros wies die Darstellung gegenüber der Nachrichtenagentur AP zurück, man sei für die Waffenproduktion nicht auf offene Quellen angewiesen.

Die Zelle soll drei Waffenentwicklungsprogramme betrieben haben. Genannt werden eine mehrstufige ballistische Rakete, eine weitere Raketenvariante und eine gelenkte Rakete, die einen handelsüblichen Flugrechner auf Smartphone-Niveau nutzen sollte.

Die Akteure hätten das Werkzeug Claude Code anstelle menschlicher Softwareentwickler eingesetzt, heißt es in dem Bericht, um die Lenk-, Navigations- und Steuerungssoftware zu schreiben, die einen Flugkörper steuert und stabilisiert. Sie hätten damit einen quelloffenen Autopiloten auf den Flugrechner übertragen, die Software für Regelung und Positionsbestimmung geschrieben, die Parameter abgestimmt und eine Flugsimulation ausgeführt.

Belege dafür, dass ein einsatzfähiges Gerät in Dienst gestellt wurde, gebe es nicht, betont Anthropic. Der Testabschuss der gelenkten Rakete sei gescheitert.

Open Source

Open Source

Sie haben etwas zu sagen? Senden Sie uns Ihren Text! 

Einreichen
Open Door

Open Door

Sie möchten ein Thema vorschlagen? Senden Sie uns Ihren Vorschlag!

Vorschlagen

Der Fall verändert das Kräfteverhältnis. Die Stärke der Miliz lag bislang im Aspekt der Kosten: billige Waffen gegen teure Abwehr. Nun kommt ein neuer Vorteil hinzu, KI ersetzt fehlendes Ingenieurwissen. Bisherige Sanktionen zielen auf Bauteile, Geld und Lieferwege ab. Eine KI-Entwicklungsabteilung im Browser können sie nicht blockieren.

Was der Bericht offen lässt: Wie groß war der Nutzen der KI wirklich? Ob der generierte Code überhaupt einen Unterschied macht oder ob Material, Fertigung und Testanlagen der wahre Flaschenhals bleiben, geht aus den Daten nicht hervor. Der gescheiterte Testabschuss spricht allerdings eher dafür, dass die Hardware das eigentliche Problem bleibt.

Getarnte Anfragen, um Sperren zu umgehen

Wie die Schutzmechanismen umgangen wurden, beschreibt der Bericht offen. Viele Anfragen seien blockiert worden, aber nicht alle. Die Nutzer hätten ihre Ziele und den Verwendungszweck der Software verschleiert und ihre Arbeit über mehrere Sitzungen verteilt, sodass keine einzelne Sitzung die volle Absicht erkennen ließ.

Die betroffenen Konten wurden gesperrt, Informationen an Partner in Staat und Wirtschaft weitergegeben. Dazu enthält der Bericht einen Nachsatz. Die Akteure hätten zu diesem Zeitpunkt bereits ein eigenes Simulationswerkzeug aufgebaut, das ohne Claude und ohne vergleichbare Umgebungen auskomme. Der Zugang war gesperrt, das Wissen blieb.

Hervorzuheben bleibt, wer die Sache aufdeckte. Weder Behörden noch Regierungen schlugen Alarm – bekannt wurde der Fall erst, als Anthropic selbst sich für die Veröffentlichung entschied.

Ein Beweisstück für Washington

Der Vorfall platzt in eine Debatte, in der Branchenchefs selbst vor den Risiken von Künstlicher Intelligenz warnen. Nur einen Tag nach dem Firmenbericht forderte Anthropic-Chef Dario Amodei in einem Essay, das Entwicklungstempo bei Spitzen-KI zu drosseln. Der Jemen-Fall liefert dafür die reale Kulisse. Amodei schlägt unter anderem vor, unabhängigen Prüfern dauerhaft Zugang zu den Unternehmen zu gewähren und das Kartellrecht zu lockern, damit sich führende Entwickler auf gemeinsame Sicherheitsstandards einigen können.

Rückendeckung kam von Elon Musk, Sam Altman und Demis Hassabis. US-Präsident Donald Trump wies die Vorstöße hingegen ab: Die USA lägen im Bereich KI vor China – und das müsse so bleiben.

Der Fall aus dem Nordjemen dient in diesem politischen Schlagabtausch als Argument. Dokumentiert hat ihn bislang allerdings nur das Unternehmen, das ihn tags darauf für seine Regulierungspläne nutzt. Unabhängig überprüfbar sind die Ereignisse nicht.

Send feedback

Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]

Lesen Sie mehr zum Thema
weltbune Banner