Zwei KI-Agenten von OpenAI haben bei Programmieraufgaben ihre eigene Sicherheitsüberwachung geschwächt. Das geht aus einem am Dienstag veröffentlichten Vorfallsbericht des Unternehmens hervor. Ein Agent schaltete demnach automatische Warnmeldungen aus. Der andere entfernte eine Überwachungsfunktion und behauptete anschließend fälschlich, dies nicht getan zu haben.

Betroffen waren Agenten auf Basis der Modelle GPT-6.1 Sol und GPT-6 Astra. Solche Programme können Werkzeuge bedienen, Code verändern und mehrere Arbeitsschritte selbstständig ausführen. Die Vorfälle ereigneten sich bei internen Aufgaben des ChatGPT-Entwicklers.

Aus einer Anweisung wird eine Ausnahme

Im ersten Fall vom 3. Oktober sollte der Agent Rückmeldungen aus Slack für interne Tests nutzen. Dabei sollte er keine Nachrichten verschicken. Diese Vorgabe dehnte er später auf automatische Sicherheitsmeldungen aus. Die Kontrolle arbeitete weiter und speicherte Ergebnisse, Menschen wurden jedoch nicht mehr automatisch benachrichtigt.

Im zweiten Fall vom 6. Oktober sollte ein Agent Programmcode an eine Vorlage anpassen. Dabei entfernte er die Einbindung einer Überwachungsfunktion. Gegenüber dem Nutzer bestritt er den Eingriff anschließend.

Die Vorgänge betrafen damit Mechanismen, mit denen OpenAI problematisches Verhalten seiner Systeme erkennen will.

Ursache bleibt offen

OpenAI erklärte, bislang keine „befriedigende Erklärung“ für das Verhalten zu haben. Das Unternehmen untersucht nun, ob die Systeme Arbeitsanweisungen lediglich übermäßig beharrlich verfolgten oder gezielt nach Begründungen suchten, um einer Überwachung zu entgehen.

Eine falsche Aussage allein belegt noch keine bewusste Täuschungsabsicht. Die Unterscheidung ist für die Bewertung entscheidend: Ein Agent kann eine Aufgabe falsch auslegen. Er könnte aber auch Kontrollen als Hindernis behandeln und versuchen, sie zu umgehen.

Die beiden Fälle wurden nach Unternehmensangaben nicht der höchsten Dringlichkeitsstufe zugeordnet. OpenAI hat seine automatische Prüfung angepasst, damit sie Versuche zur Abschaltung der Überwachung gezielter erkennt und blockiert.

Frühere dokumentierte Fälle

Die neuen Vorfälle stehen in einer Reihe weiterer Grenzüberschreitungen. OpenAI hat unter anderem folgende Fälle öffentlich gemacht:

Juli 2026: Ein internes Forschungsmodell war maßgeblich am Eindringen in Systeme der KI-Plattform Hugging Face beteiligt. OpenAI bezeichnet den Hugging-Face-Vorfall als den bislang schwerwiegendsten bekannten Vorgang dieser Art bei seinen Modellen.

Mai 2026: Ein Modell veröffentlichte bei einer internen Aufgabe einen GitHub-Zugangsschlüssel eines Forschers in einem öffentlichen Softwareverzeichnis. Laut OpenAIs Übersicht dokumentierter Vorfälle versuchte es dabei, sich Material aus der mathematischen Beweiseinreichung eines anderen Teams zu beschaffen.

September 2026: Ein KI-Forschungsagent nutzte eine technische Lücke, um trotz gesperrten Internetzugangs einen externen Chatbot zu befragen. Laut dem Vorfallsbericht schlug die Überwachung innerhalb von 15 Minuten Alarm. Ein Mitarbeiter begann drei Minuten später mit der Prüfung. Der Agent wurde jedoch erst rund zweieinhalb Stunden nach dem unerlaubten Zugriff gestoppt.