Eine Maschine erkennt ein Ziel und löst den Angriff aus – ohne menschlichen Feuerbefehl. Was nach Science-Fiction klingt, ist heute Gegenstand internationaler Rüstungskontrolle. Vom 16. bis 20. November beraten die 128 Vertragsstaaten der UN-Waffenkonvention (CCW) in Genf, ob sie Verhandlungen über verbindliche Regeln für autonome Waffensysteme beginnen. Im Kern steht die Frage: Wer entscheidet künftig über Leben und Tod? Roboter oder Mensch?
UN-Generalsekretär António Guterres und das Internationale Komitee vom Roten Kreuz verlangen verbindliche Verbote und Beschränkungen. Sieben Staaten, darunter Österreich und Brasilien, haben Vertragsverhandlungen vorgeschlagen. Die USA und Russland bremsen dagegen. Washington setzt auf unverbindliche Leitlinien. Da die CCW im Konsens entscheidet, kann ein einziger Staat ein Verhandlungsmandat verhindern. Und wie steht es mit Deutschland?
Roter Knopf: „Entscheidung muss bei Menschen bleiben“
Auf Anfrage der Berliner Zeitung erläutert ein Sprecher des Verteidigungsministeriums den „Two-Tier-Approach“ der Bundeswehr: Vollautonome Waffen außerhalb menschlicher Kontrolle würden abgelehnt; für Systeme mit autonomen Funktionen brauche es Regeln. Dabei müsse „die Entscheidung über den Einsatz militärischer Gewalt innerhalb einer verantwortlichen Befehlskette lückenlos beim Menschen verbleiben“.
Pistorius kauft mit Norwegen US-Patriot-Raketen für die Ukraine – 300 Millionen Dollar aus Berlin
Autonome Waffen: UN-Konferenz in Genf berät über Regeln
Die entscheidende Nachfrage bleibt unbeantwortet: Welche Waffensysteme mit autonomen Funktionen nutzt oder beschafft die Bundeswehr? Kein einziges wird ausdrücklich genannt. Stattdessen verweist das Ministerium auf Leitlinien, Grundgesetz und humanitäres Völkerrecht. Das bedeutet nicht, dass Kontrollverfahren fehlen. Doch wie die zugesagte Kontrolle technisch und organisatorisch aussieht, bleibt anhand dieser Auskunft unklar.
KI-gestützte Zielerkennung ist nicht gleich autonome Zielbekämpfung. Software kann Bilder auswerten und Soldaten Hinweise liefern, ohne selbst Angriffe anzuordnen. Raketenabwehrsysteme müssen andererseits binnen Sekunden reagieren. Automatisierung kann nötig sein. Die Frage ist nicht, ob jede Maschine einen Menschen ersetzen darf, sondern wann dieser wirksam eingreifen kann – und wann seine Aufsicht nur auf dem Papier besteht. Schließlich möchte man ja nicht „aus Versehen“ einen folgenschweren Krieg beginnen.
„Atomkrieg aus Versehen“: Wissenschaftler warnt
Professor Karl-Hans Bläsius, früher Informatiker an der Hochschule Trier, untersucht seit Jahren die Gefahr eines „Atomkriegs aus Versehen“. Er warnt auf Anfrage: „Auch in militärischen Situationen ist die Informationsgrundlage vage, unsicher und unvollständig und deshalb sind keine sicheren KI-Entscheidungen möglich.“ Fehler in Frühwarnsystemen und knappe Reaktionszeiten könnten laut Bläsius in Krisen Eskalationen auslösen, „sogar zu Atomwaffeneinsätzen“ könnte es dann kommen. Das ist die Beschreibung eines möglichen Risikos.
Auf menschliche Kontrolle will Bläsius nicht verzichten. Zwar reiche „nicht immer die Zeit für menschliche Kontrollen“, sagt er. Doch in vielen Situationen könne menschliche Einflussnahme Risiken mindern. Sein Argument richtet sich nicht gegen jede automatische Abwehrfunktion, wohl aber gegen die Vorstellung, Geschwindigkeit könne Verantwortung ersetzen.
Das Ministerium zieht die Grenze dort, wo Waffen „ohne jegliche menschliche Einflussnahme und Kontrolle“ Gewalt anwenden. Ob dafür ein Mensch jeden Angriff freigeben muss oder eine einmalige Erlaubnis vor dem Einsatz ausreicht, lässt die Antwort offen. Zwischen einem Soldaten, der eingreifen und abbrechen kann, und einem, der nur den Startknopf drückt, liegen jedoch Welten.
Mensch nickt nachträglich ab, was Maschine getan hat?
Auch die Politik ringt um die Grenzen. Am 12. November lehnte der Bundestag einen Antrag der Linken ab, der Deutschland auf ein verbindliches Protokoll mit konkreten Verboten festlegen wollte. Grüne und Linke stimmten dafür, die übrigen Fraktionen dagegen. Das ist keine generelle Absage an Rüstungskontrolle, zeigt aber den politischen Streit über Reichweite und Tempo der Regulierung.
Bundeswehr überschritt Personalziel bereits im Oktober —„absehbar keine Wehrpflicht nötig“
Forscher warnen vor autonomen Waffen: „KI darf nicht über Leben und Tod entscheiden“
In Genf wird diese Woche ohnehin kein fertiger Vertrag unterschrieben. Eine UN-Expertengruppe hatte im September gemeinsame Bausteine für mögliche Regeln vorgelegt, ohne festzulegen, ob diese verbindlich werden. Das Verteidigungsministerium formuliert seine Erwartung entsprechend vorsichtig: Es strebe ein „Folgemandat“ für die Expertengruppe an. Ob daraus wirkliche Vertragsverhandlungen entstehen, bleibt offen.
Selbst wenn es zu einem Vertrag käme: Bläsius hält es für unmöglich, seine Einhaltung technisch abzusichern. Er setzt auf wissenschaftliche und wirtschaftliche Verflechtungen, sodass Verstöße auch den Urhebern schaden. Ob solche Abhängigkeiten Staaten bremsen, die sich militärische Vorteile versprechen, bleibt offen. Auch Regeln müssen durchsetzbar sein.
Am Freitag endet die Konferenz. Dann zählt weniger die nächste Erklärung über menschliche Verantwortung als ein konkreter Auftrag für Verhandlungen. Denn zwischen einem Menschen, der tatsächlich entscheidet, und einem, der nur noch bestätigt, was die Maschine bereits getan hat, liegt die Zukunft der Kriegsführung.
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]