Am Dienstag trifft US-Präsident Donald Trump erneut die Chefs führender amerikanischer KI-Unternehmen. Schon beim Staatsdinner für Chinas Präsidenten Xi Jinping saßen in der vergangenen Woche OpenAI-Chef Sam Altman, Elon Musk, Apple-Manager Tim Cook und Nvidia-Chef Jensen Huang mit am Tisch. Es war Xis erster Staatsbesuch in den USA seit 2015.

Bei den Gesprächen ging es neben Handel und den großen geopolitischen Krisen vor allem um Künstliche Intelligenz. Dabei sprach sich der chinesische Präsident im Gegensatz zu Trumps marktliberalem Kurs für klare staatliche Sicherheitsregeln aus. Xi erklärte bei der Begrüßung, China und die USA müssten dafür sorgen, dass KI „stets unter menschlicher Kontrolle“ bleibe.

Trump und Anthropic-Chef: Dinner für zwei

Ein führender Kopf der Branche verpasste diese große Runde jedoch: Dario Amodei, Chef des KI-Unternehmens Anthropic, fehlte beim Dinner wegen eines Terminkonflikts. Trump holte das Gespräch kurzerhand nach und lud ihn für Sonntagabend zu einem privaten Abendessen unter vier Augen ein. Worüber genau die beiden sprachen, blieb allerdings geheim.

Nur zwei Tage zuvor hatte ein US-Berufungsgericht entschieden, dass das Pentagon Anthropic weiterhin als „Risiko für die Lieferkette“ einstufen und von Aufträgen des Verteidigungsministeriums ausschließen darf. Der Grund: Das Pentagon wollte die KI uneingeschränkt nutzen, während Amodei autonome Waffen und die massenhafte Überwachung von Menschen in den USA vertraglich verbieten wollte. Andere KI-Firmen haben inzwischen Verträge mit dem Militär geschlossen.

Zuletzt hatte Amodei vor dem UN-Sicherheitsrat eindringlich vor der Entwicklung immer leistungsfähigerer KI gewarnt. Nur zwei Wochen zuvor hatte bereits einer seiner ehemaligen Mitarbeiter, Jacob Coxon, mit seiner Kündigung bei Anthropic für weltweites Aufsehen gesorgt. Die führenden Unternehmen würden im Wettlauf um immer mächtigere Systeme „mit unserem Leben spielen“, schrieb dieser auf X.

Trump will die KI-Entwicklung dennoch nicht bremsen. „Wer KI gewinnt, gewinnt“, schrieb er mit Blick auf den Wettbewerb mit China. Warnungen vor einer KI-Katastrophe tat er als „Schwindel“ ab. Seine Verbündeten machten Amodei zum Gesicht des sogenannten „KI-Doomerismus“ – zum KI-Untergangspropheten also.

Die Allianz der Bosse

Dabei steht Amodei, zumindest mit seiner Forderung, die KI-Entwicklung zu verlangsamen, nicht allein. Auch OpenAI-Chef Sam Altman, Elon Musk und Google-DeepMind-Chef Demis Hassabis unterstützen den Vorstoß.

Ihre Einigkeit hat bereits juristische Folgen. Vier zahlende Nutzer haben die Unternehmen verklagt. Ihr Vorwurf lautet, dass Konkurrenten ihre Produkte gemeinsam verlangsamen – nicht um Menschen zu schützen, sondern um neue Konkurrenten auszusperren und ihre Marktposition zu zementieren. Amodei fordert dafür sogar eine kartellrechtliche Ausnahme, um die Absprachen rechtlich zu schützen. Doch die Kläger sehen darin genau das Problem: Wer Standards schreibt, kontrolliert, wer in Zukunft überhaupt konkurrieren darf.

„Von der Industrie für die Industrie“

Die politische Aktivistin und Mitklägerin Cheyenne Hunt warnt eindringlich vor dem Versuch der Tech-Riesen, sich kartellrechtlich zu schützen. Dass die Konzerne sich seit Juli hinter „verschlossenen Türen“ abstimmen, sei bereits problematisch – noch schlimmer aber sei, dass sie nun selbst die Regeln dafür schreiben wollten. „Regeln, die von der Industrie für die Industrie geschrieben und von der Industrie überwacht werden, sind keine Sicherheitsstandards. Sie sind Betrug“, erklärte sie. Nicht vier Milliardäre, sondern einzig die Öffentlichkeit solle über die rechtlichen Rahmenbedingungen entscheiden.

Wie dieser „Betrug“ in der Praxis aussehen könnte, zeigt Amodeis konkreter Vorstoß. Er fordert permanente interne Audits durch unabhängige Prüfer, gemeinsame Standards demokratischer Staaten sowie einen begrenzten Sicherheitsdialog mit China. Doch diese zusätzlichen Auflagen würden auf einen Markt treffen, in dem der Zugang zu extrem teuren Chips, Rechenzentren und Cloud-Diensten schon heute über Erfolg und Misserfolg entscheidet.

Weil große Cloud-Anbieter gleichzeitig als Investoren und Infrastrukturpartner der führenden KI-Labore fungieren, warnt die US-Handelsbehörde FTC bereits, dass diese Verflechtungen kleineren Wettbewerbern den Zugang zu Rechenleistung erschweren. Zudem treibt die Branche einen beispiellosen Investitionsboom voran – vor dessen potenziellem Einbruch und den daraus resultierenden potenziellen globalen Finanzrisiken sogar die Bank für Internationalen Zahlungsausgleich (BIZ) warnt. Sollte diese Wagniskapital-Blase platzen, würde das bedeuten, dass am Ende nicht die besten Standards überleben, sondern jene etablierten Anbieter, die sich die teuren Regeln überhaupt leisten können.

Was jetzt?

Genau mit diesen ungelösten Fragen im Gepäck prallen die gegensätzlichen Welten am Dienstag im Weißen Haus erneut aufeinander. Der Vorsitzende des Repräsentantenhauses, Mike Johnson, will dabei die „richtige Balance“ zwischen Innovation und Regulierung finden. Offen bleibt, welche Rolle der Staat bei Regeln übernimmt, die führende Unternehmen selbst mitgestalten wollen.