Das Abrüstungsforschungsinstitut der Vereinten Nationen, UNIDIR, startet an diesem Donnerstag in New York ein internationales Forum zur militärischen Nutzung Künstlicher Intelligenz. Die Veranstaltung ist Teil des im Sommer in Genf gegründeten Zentrums für KI, Frieden und Sicherheit. Als Unterstützer nannte UNIDIR-Direktor Robin Geiss die Schweiz und Pakistan.

Geiss warnte vor einer wachsenden Rolle von KI in militärischen Abläufen. Der Spielraum für menschliche Entscheidungen werde immer enger, auch im nuklearen Bereich, sagte er bei einer Pressekonferenz der Vereinten Nationen am Dienstag.

KI komme bereits in vielen militärischen Bereichen zum Einsatz, etwa in der Aufklärung, bei der Zielerkennung, in Drohnen, bei Cyberangriffen und in der Informationskriegsführung. Entscheidungsprozesse liefen zunehmend im Tempo der Maschinen ab, undurchschaubare Systeme erhöhten das Risiko von Fehleinschätzungen und einer unbeabsichtigten Eskalation.

Regelwerk für Rüstungsindustrie geplant

Nach Angaben von Geiss gehören alle fünf offiziellen Atommächte zu den Geldgebern des Instituts: die USA, Russland, China, Großbritannien und Frankreich. Im Lauf der Woche will UNIDIR drei weitere Initiativen vorstellen. Eine davon zielt auf einen Kodex für die Rüstungsindustrie. Entscheidungen von Unternehmen über Entwurf, Trainingsdaten und Erprobung bestimmten, ob militärische KI-Systeme verlässlich seien und im Einklang mit dem Völkerrecht arbeiteten, sagte Geiss.

Geplant seien freiwillige Leitlinien auf Grundlage des Völkerrechts und der UN-Leitprinzipien für Wirtschaft und Menschenrechte. UNIDIR arbeitet dabei nach eigenen Angaben mit dem Büro des UN-Hochkommissars für Menschenrechte zusammen und will Rüstungskonzerne, Softwareentwickler, Zulieferer und Investoren einbinden.

Begriffe klären, Missbrauch eindämmen

Ein zweites Vorhaben soll ein einheitliches Begriffsverzeichnis für KI und Sicherheit erarbeiten. Staaten meinten mit Begriffen wie Autonomie, Sicherheit oder Schutz oft Unterschiedliches, was internationale Verhandlungen erschwere, sagte Geiss. Eine dritte Initiative widmet sich dem Missbrauch von KI durch nichtstaatliche bewaffnete Gruppen.

Erste Untersuchungen zeigten laut Geiss, dass solche Gruppen KI bereits für Einsatzplanung, Durchführung und Logistik nutzten. Bei der Analyse arbeitet UNIDIR mit dem UN-Ausbildungs- und Forschungsinstitut UNITAR zusammen.

Geiss verwies nach einem Bericht der Nachrichtenagentur AP auch auf jüngste Ankündigungen der Großmächte. So habe die US-Regierung im vergangenen Monat vorgeschlagen, gemeinsam mit China eine Art Warnsystem für KI-Zwischenfälle einzurichten, die die nationale Sicherheit bedrohen könnten. UNIDIR will die Schweiz zudem bei einem für Juni 2027 geplanten KI-Gipfel in Genf unterstützen.