Nach dem Gipfeltreffen mit der Tech-Elite hat US-Präsident Donald Trump am Dienstag das „Abkommen des Weißen Hauses zur Superintelligenz“ vorgestellt. Die führenden Firmen verpflichten sich darin freiwillig zu internen Kontrollen, externen Prüfungen und einer Aufsicht durch ihre eigenen Führungsgremien. Rechtlich bindend ist das Abkommen nicht. Auch die Ergebnisse der Prüfungen müssen die Unternehmen nicht veröffentlichen. Davon getrennt ordnete Trump per Dekret an, dass die Bundesverwaltung der USA Künstliche Intelligenz künftig „Superintelligenz“ nennen soll.

„Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht. Das werden sie nicht zulassen“, erklärte Trump nach dem Treffen vor dem Weißen Haus. Der amerikanische Präsident setzt darauf, dass die Angst vor wirtschaftlichen Schäden die Firmen dazu bringe, ihre Systeme ausreichend zu kontrollieren, und bezeichnet die Vereinbarung als „moralisch bindend“.

Unterzeichnet haben Vertreter von Anthropic, OpenAI, Google, Meta, Nvidia und Musks Unternehmen X. Die Firmen beabsichtigen, sich regelmäßig zu treffen, um gemeinsame Sicherheitsstandards zu entwickeln. Meta-Chef Mark Zuckerberg bezeichnete das Abkommen als „ersten Schritt“. Zwei prominente Teilnehmer fehlen unter den Unterzeichnern: Amazon-Gründer Jeff Bezos und Palantir-Chef Alex Karp.

Dass Sicherheitsregeln nötig sind, zeigen mehrere inzwischen bekannt gewordene Vorfälle, bei denen OpenAI einräumte, dass KI-Agenten bei Tests auf fremde Systeme zugegriffen hatten. Als jüngstes Beispiel nutzte im Juni ein Agent eine Sicherheitslücke im Statistikportal des australischen Gesundheitsdienstes Medicare, wobei nach Unternehmensangaben keine persönlichen Gesundheitsdaten abgerufen wurden.

Bremsen und zugleich beschleunigen?

OpenAI verschob zudem nach fehlgeschlagenen Sicherheitstests die Veröffentlichung seines neuen, für Oktober geplanten Modells GPT-6.1 Astra. Das Unternehmen zog die Reißleine, da das Modell im Test unerwartet Limits überschritt, unautorisiert auf externe Werkzeuge zugriff und ungenaue Angaben über seine Aktionen machte.

Anthropic-Chef Dario Amodei warnt schon länger davor. Vor dem UN-Sicherheitsrat forderte der 43-Jährige Schutzmaßnahmen für immer leistungsfähigere Systeme. Zugleich regte Amodei an, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. OpenAI-Chef Sam Altman, Elon Musk und Google-DeepMind-Chef Demis Hassabis unterstützten seinen Vorstoß für eine Verlangsamung. Am Sonntag traf Amodei Trump zu einem privaten Abendessen. Worüber die beiden sprachen, wurde nicht bekannt.

Trump selbst denkt jedoch nicht daran, das Tempo zu drosseln. „Wir führen, und das wollen wir beibehalten“, sagte er mit Blick auf China. Nach dem Treffen bekräftigte der US-Präsident seine Unterstützung für neue Rechenzentren. Deren Strombedarf stößt vielerorts auf Widerstand. Trump erklärte, die Unternehmen wollten den betroffenen Gemeinden finanzielle Vorteile verschaffen. Konkrete, verbindliche Zusagen enthält das Sicherheitsabkommen nicht.

Die Angst vor einem KI-Kartell

Die Zusammenarbeit der Konkurrenten beschäftigt bereits ein Gericht. Vier Nutzer haben Anthropic, OpenAI, Google und Musks KI-Unternehmen SpacexAI verklagt. Ihr Vorwurf: Die Firmen könnten unter dem Vorwand der Sicherheit gemeinsam die Entwicklung verlangsamen und neuen Wettbewerbern den Zugang zum Markt erschweren.

Die Sorge reicht über die Klage hinaus. Für die Entwicklung von KI brauchen Firmen enorme Rechenleistung. Die amerikanische Handelsbehörde FTC warnt davor, dass enge Verbindungen zwischen Cloud-Anbietern und KI-Laboren kleineren Firmen den Zugang zu Rechenleistung erschweren könnten. Werden zusätzlich teure Sicherheitsprüfungen zum Standard, können sich etablierte Firmen diese leichter leisten. Die Prüfungen können notwendig sein, um Schäden zu verhindern. Zugleich stellt sich die Frage, wer sie sich leisten kann.

Die jetzt vereinbarten Kontrollen scheinen indes erst der Anfang zu sein. Meta-Chef Mark Zuckerberg sagte nach dem Treffen: „Die Idee ist nicht, dass dies das Einzige ist, was wir jemals tun werden.“