Ein fehlerhafter Geheimdienstbericht über ein chinesisches Schiff im Nahen Osten, der im Frühjahr im US-Militär kursierte, hat nach Recherchen von CNN beinahe einen militärischen Zwischenfall ausgelöst. Ein Analyst hatte demnach bei der Erstellung des Berichts ein KI-System eingesetzt.

Das US-Militär bereitete sich nach Angaben von vier mit dem Vorgang vertrauten Quellen darauf vor, das Schiff abzufangen, berichtete der Sender. Zwei der Quellen zufolge sollten bewaffnete US-Soldaten das Schiff betreten. Zudem seien Militärflugzeuge bereits in der Luft gewesen.

Sicherheitstest

Google-KI Gemini hackte ebenfalls andere Unternehmen

Risiko militärischer Eskalation

Erst kurz vor dem geplanten Einsatz hätten Verantwortliche den Bericht genauer überprüft und festgestellt, dass er mithilfe künstlicher Intelligenz erstellt worden war. Der Bericht enthielt demnach die falsche Einschätzung, das chinesische Schiff transportiere Komponenten für ein Atomwaffenprogramm. Welche Fracht tatsächlich an Bord war, konnte CNN nach eigenen Angaben nicht in Erfahrung bringen.

Eine der Quellen bezeichnete den Geheimdienstbericht als „völlig falsch“. Der Vorfall habe „beinahe einen Krieg ausgelöst“, sagte die Quelle weiter. Ein Vorgehen der USA gegen ein chinesisches Schiff hätte demnach zu einer militärischen Eskalation zwischen den beiden Ländern führen können.

KI bei der Auswertung von Geheimdienstinformationen

Nach CNN-Recherchen hatte der Analyst einen Chatbot zu Geheimdienstinformationen über die Ladung des Schiffes befragt. Die ursprünglichen Informationen stammten vom US Special Operations Command Pacific mit Sitz auf Hawaii. Unklar sei dem Bericht zufolge, ob es sich bei dem verwendeten Chatbot um ein kommerzielles Produkt oder ein System der US-Regierung gehandelt habe.

Der Chatbot habe Informationen aus öffentlich zugänglichen Quellen mit geheimen Informationen aus Beständen der US-Regierung kombiniert und daraus die falsche Schlussfolgerung über die Ladung gezogen, berichtete CNN. Anschließend nutzte der Analyst erneut KI, um die Ergebnisse in Form eines standardisierten Geheimdienstberichts aufzubereiten. Der Bericht wurde anschließend weitergegeben.

Ukraine

Selenskyj richtet Gipfel der Karpaten-Länder aus und nennt Haushaltslücke „astronomisch“

Hegseth stellte KI-Strategie vor

US-Verteidigungsminister Pete Hegseth hatte im Januar eine Strategie zur beschleunigten Nutzung künstlicher Intelligenz im US-Militär vorgestellt. Ziel sei es, sicherzustellen, „dass wir im Bereich der militärischen KI führend sind“, sagte er laut CNN.

Der Sender berichtete unter Berufung auf mehrere US-Vertreter jedoch, dass verschiedene Bereiche des Militärs und der Geheimdienste unterschiedliche KI-Systeme mit unterschiedlichen Vorgaben und Sicherheitsstandards nutzten. Einheitliche Standards zur Überprüfung der von den Systemen erzeugten Informationen gebe es noch nicht.

Ein weiterer mit der derzeitigen Nutzung der Technologie im Militär vertrauter Insider erklärte dem Bericht zufolge, der Einsatz von KI bei der Zielauswahl nehme zu. Es gebe jedoch keine ausreichenden Vorgaben dafür, wie ein Mensch im Entscheidungsprozess den Schutz von Zivilisten und die Vermeidung von Fehlbeschuss sicherstellen solle. „KI ermöglicht es, schneller zu einer schlechten Idee zu gelangen“, zitierte CNN eine weitere Quelle.