KI-Waffen

„Atomkrieg aus Versehen“: Pistorius’ Bundeswehr zieht rote Linie – aber wo ist die?

In Genf wird gerade über autonome Waffen verhandelt. Antworten des Verteidigungsministeriums und eines KI-Forschers zeigen die Grenzen menschlicher Kontrolle auf.

Ralf M. Ruthardt
Ralf M. Ruthardt
4 Min
Bei der Internationalen Luft- und Raumfahrtausstellung (ILA) auf dem BER im Juni bestaunte Verteidigungsminister Boris Pistorius (SPD) die Zukunft.

Bei der Internationalen Luft- und Raumfahrtausstellung (ILA) auf dem BER im Juni bestaunte Verteidigungsminister Boris Pistorius (SPD) die Zukunft.

© RALF HIRSCHBERGER

Eine Maschine erkennt ein Ziel und löst den Angriff aus – ohne menschlichen Feuerbefehl. Was nach Science-Fiction klingt, ist heute Gegenstand internationaler Rüstungskontrolle. Vom 16. bis 20. November beraten die 128 Vertragsstaaten der UN-Waffenkonvention (CCW) in Genf, ob sie Verhandlungen über verbindliche Regeln für autonome Waffensysteme beginnen. Im Kern steht die Frage: Wer entscheidet künftig über Leben und Tod? Roboter oder Mensch?

UN-Generalsekretär António Guterres und das Internationale Komitee vom Roten Kreuz verlangen verbindliche Verbote und Beschränkungen. Sieben Staaten, darunter Österreich und Brasilien, haben Vertragsverhandlungen vorgeschlagen. Die USA und Russland bremsen dagegen. Washington setzt auf unverbindliche Leitlinien. Da die CCW im Konsens entscheidet, kann ein einziger Staat ein Verhandlungsmandat verhindern. Und wie steht es mit Deutschland?

Roter Knopf: „Entscheidung muss bei Menschen bleiben“

Auf Anfrage der Berliner Zeitung erläutert ein Sprecher des Verteidigungsministeriums den „Two-Tier-Approach“ der Bundeswehr: Vollautonome Waffen außerhalb menschlicher Kontrolle würden abgelehnt; für Systeme mit autonomen Funktionen brauche es Regeln. Dabei müsse „die Entscheidung über den Einsatz militärischer Gewalt innerhalb einer verantwortlichen Befehlskette lückenlos beim Menschen verbleiben“.

Die entscheidende Nachfrage bleibt unbeantwortet: Welche Waffensysteme mit autonomen Funktionen nutzt oder beschafft die Bundeswehr? Kein einziges wird ausdrücklich genannt. Stattdessen verweist das Ministerium auf Leitlinien, Grundgesetz und humanitäres Völkerrecht. Das bedeutet nicht, dass Kontrollverfahren fehlen. Doch wie die zugesagte Kontrolle technisch und organisatorisch aussieht, bleibt anhand dieser Auskunft unklar.

KI-gestützte Zielerkennung ist nicht gleich autonome Zielbekämpfung. Software kann Bilder auswerten und Soldaten Hinweise liefern, ohne selbst Angriffe anzuordnen. Raketenabwehrsysteme müssen andererseits binnen Sekunden reagieren. Automatisierung kann nötig sein. Die Frage ist nicht, ob jede Maschine einen Menschen ersetzen darf, sondern wann dieser wirksam eingreifen kann – und wann seine Aufsicht nur auf dem Papier besteht. Schließlich möchte man ja nicht „aus Versehen“ einen folgenschweren Krieg beginnen.

Open Source

Open Source

Sie haben etwas zu sagen? Senden Sie uns Ihren Text! 

Einreichen
Open Door

Open Door

Sie möchten ein Thema vorschlagen? Senden Sie uns Ihren Vorschlag!

Vorschlagen

„Atomkrieg aus Versehen“: Wissenschaftler warnt

Professor Karl-Hans Bläsius, früher Informatiker an der Hochschule Trier, untersucht seit Jahren die Gefahr eines „Atomkriegs aus Versehen“. Er warnt auf Anfrage: „Auch in militärischen Situationen ist die Informationsgrundlage vage, unsicher und unvollständig und deshalb sind keine sicheren KI-Entscheidungen möglich.“ Fehler in Frühwarnsystemen und knappe Reaktionszeiten könnten laut Bläsius in Krisen Eskalationen auslösen, „sogar zu Atomwaffeneinsätzen“ könnte es dann kommen. Das ist die Beschreibung eines möglichen Risikos.

Auf menschliche Kontrolle will Bläsius nicht verzichten. Zwar reiche „nicht immer die Zeit für menschliche Kontrollen“, sagt er. Doch in vielen Situationen könne menschliche Einflussnahme Risiken mindern. Sein Argument richtet sich nicht gegen jede automatische Abwehrfunktion, wohl aber gegen die Vorstellung, Geschwindigkeit könne Verantwortung ersetzen.

Das Ministerium zieht die Grenze dort, wo Waffen „ohne jegliche menschliche Einflussnahme und Kontrolle“ Gewalt anwenden. Ob dafür ein Mensch jeden Angriff freigeben muss oder eine einmalige Erlaubnis vor dem Einsatz ausreicht, lässt die Antwort offen. Zwischen einem Soldaten, der eingreifen und abbrechen kann, und einem, der nur den Startknopf drückt, liegen jedoch Welten.

Mensch nickt nachträglich ab, was Maschine getan hat?

Auch die Politik ringt um die Grenzen. Am 12. November lehnte der Bundestag einen Antrag der Linken ab, der Deutschland auf ein verbindliches Protokoll mit konkreten Verboten festlegen wollte. Grüne und Linke stimmten dafür, die übrigen Fraktionen dagegen. Das ist keine generelle Absage an Rüstungskontrolle, zeigt aber den politischen Streit über Reichweite und Tempo der Regulierung.

In Genf wird diese Woche ohnehin kein fertiger Vertrag unterschrieben. Eine UN-Expertengruppe hatte im September gemeinsame Bausteine für mögliche Regeln vorgelegt, ohne festzulegen, ob diese verbindlich werden. Das Verteidigungsministerium formuliert seine Erwartung entsprechend vorsichtig: Es strebe ein „Folgemandat“ für die Expertengruppe an. Ob daraus wirkliche Vertragsverhandlungen entstehen, bleibt offen.

Selbst wenn es zu einem Vertrag käme: Bläsius hält es für unmöglich, seine Einhaltung technisch abzusichern. Er setzt auf wissenschaftliche und wirtschaftliche Verflechtungen, sodass Verstöße auch den Urhebern schaden. Ob solche Abhängigkeiten Staaten bremsen, die sich militärische Vorteile versprechen, bleibt offen. Auch Regeln müssen durchsetzbar sein.

Am Freitag endet die Konferenz. Dann zählt weniger die nächste Erklärung über menschliche Verantwortung als ein konkreter Auftrag für Verhandlungen. Denn zwischen einem Menschen, der tatsächlich entscheidet, und einem, der nur noch bestätigt, was die Maschine bereits getan hat, liegt die Zukunft der Kriegsführung.

Send feedback

Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]

Lesen Sie mehr zum Thema
weltbune Banner