Die führenden KI-Unternehmen OpenAI, Anthropic und Google DeepMind arbeiten an einer gemeinsamen Organisation zur Überwachung besonders leistungsfähiger Systeme. OpenAI bestätigte laut der Nachrichtenagentur AFP am Dienstag, dass die Konkurrenten gemeinsam Regeln für den sicheren Umgang mit Künstlicher Intelligenz entwickeln wollen.

Als Vorbild dient nach Angaben von AFP die Financial Industry Regulatory Authority, kurz Finra. Die von der US-Regierung anerkannte Selbstregulierungsorganisation überwacht unter Aufsicht der Börsenaufsicht SEC den amerikanischen Wertpapierhandel. Ein vergleichbares KI-Gremium könnte gemeinsame Standards für Sicherheitstests und die Prüfung neuer Modelle festlegen.

Die Gespräche liefen bereits seit mehreren Wochen, sagte OpenAIs Politikchef Chris Lehane laut einem Bericht von Bloomberg. Eine besondere Ausnahme vom Kartellrecht hält OpenAI demnach nicht für erforderlich. Anthropic und Google DeepMind bestätigten ihre Beteiligung zunächst nicht selbst.

OpenAI hatte bereits am 9. September angekündigt, gemeinsam mit anderen führenden KI-Laboren freiwillige Branchenstandards zu entwickeln. Nach einem Beitrag Lehanes sollen dazu einheitliche Sicherheitstests, unabhängige Prüfungen und Regeln für den Umgang mit gefährlichen Fähigkeiten gehören. Wenn bestimmte Sicherheitsanforderungen nicht erfüllt werden könnten, müsse auch eine langsamere Entwicklung möglich sein.

Warnung vor Kontrollverlust

Die Berichte folgen auf einen Vorstoß von Anthropic-Chef Dario Amodei. Er warnte in einem ausführlichen Beitrag, KI-Systeme könnten sich schneller weiterentwickeln, als Forscher ihre Funktionsweise verstehen und kontrollieren könnten. Besonders gefährlich seien ein möglicher Kontrollverlust sowie der Einsatz der Technik für Cyberangriffe oder die Entwicklung biologischer Waffen.

Amodei fordert deshalb unabhängige Prüfer, die fortlaufend Zugang zu Entwicklungsprozessen der Unternehmen erhalten. Führende KI-Anbieter in demokratischen Staaten sollten sich zudem auf gemeinsame Sicherheitsstandards und Grenzen für eine unkontrollierte Beschleunigung verständigen. Dabei gehe es nicht um einen vollständigen Entwicklungsstopp, sondern um ein Tempo, bei dem Schutzmaßnahmen mit den Fähigkeiten der Systeme Schritt halten könnten.

OpenAI verweist in diesem Zusammenhang auf Vorfälle, bei denen interne KI-Agenten während Tests unerwartete und nicht vorgesehene Handlungen ausführten. In einer eigenen Aufarbeitung bezeichnete das Unternehmen einen Angriff auf die Plattform Hugging Face als schwerwiegendste bislang festgestellte Aktivität dieser Art durch seine Modelle. Menschen kamen demnach nicht zu Schaden.

Kartellrechtliche Bedenken

Umstritten ist, wie weit konkurrierende Unternehmen ihre Entwicklung miteinander abstimmen dürfen. Amodei hält staatliche Unterstützung und möglicherweise eine Ausnahme vom Kartellrecht für erforderlich. Lehane erklärte dagegen laut Bloomberg, OpenAI sehe für die geplante Sicherheitszusammenarbeit keine solche Sonderregelung als notwendig an.

Der Vorsitzende der US-Wettbewerbsbehörde FTC, Andrew Ferguson, reagierte dennoch mit deutlicher Skepsis. Unternehmen könnten Sicherheitsvorschriften und Ausnahmen vom Kartellrecht dazu verwenden, kleinere Konkurrenten fernzuhalten und ihre eigene Marktstellung abzusichern, sagte Ferguson nach Angaben von Reuters bei einer Veranstaltung der Georgetown University.

Im US-Kongress liegt bereits ein enger gefasster Vorschlag vor. Die Senatoren Jim Banks und Adam Schiff wollen KI-Unternehmen erlauben, Informationen über Kontrollverlust, Cyber- und Biogefahren sowie ausländische Ausspähversuche auszutauschen. Der parteiübergreifende Gesetzentwurf soll solche Kooperationen begrenzt vor kartellrechtlichen Klagen schützen.