Googles KI-Modell Gemini ist bei einem Sicherheitstest in Computersysteme dreier realer Unternehmen eingedrungen. Die Vorfälle ereigneten sich bereits im Mai und wurden erst jetzt öffentlich, wie das Wall Street Journal berichtet.

Nach Angaben des Wall Street Journal geschahen die Vorfälle bei einem Cybersecurity-Test der Firma Irregular. Das Unternehmen bestätigte demnach, dass Gemini während der Tests auf das Internet zugreifen konnte und dadurch Systeme realer Unternehmen erreichte. Irregular informierte Google dem Bericht zufolge Ende Juli über die Vorfälle.

Abkommen

Durchbruch im Grönland-Streit: Trump verkündet Deal

Google: KI beendete Vorgänge selbst

In einem Fall erriet Gemini demnach ein Passwort und verschaffte sich damit Zugang zu einem geschützten System. In den beiden anderen Fällen stieß das Modell bei Internetsuchen auf öffentliche Online-Datenbanken, in denen Zugangsdaten anderer Unternehmen hinterlegt waren. Gemini nutzte diese Angaben, um auf geschützte Systeme zuzugreifen, wie das Wall Street Journal unter Berufung auf Google berichtete.

Hintergrund war demnach ein sogenannter „Capture the Flag“-Test. Gemini sollte dabei Informationen aus Software eines fiktiven Unternehmens beschaffen. Dieses trug allerdings denselben Namen wie ein reales Unternehmen. Zudem war der Internetzugang laut Irregular entgegen der ursprünglichen Planung verfügbar.

Google zufolge bemerkte Gemini in allen drei Fällen, dass es auf die Systeme echter Unternehmen zugegriffen hatte, und beendete den Vorgang jeweils selbst. „In allen drei Fällen hat das Modell aufgehört“, sagte die für Sicherheitsarchitektur zuständige Google-Managerin Heather Adkins laut Bloomberg. Die betroffenen Unternehmen seien informiert worden.

Auch Anthropic, OpenAI, Meta meldeten Vorfälle

Google habe die Vorfälle deshalb nicht als öffentlich mitteilungsbedürftige Sicherheitsverletzungen betrachtet, berichtet das Wall Street Journal. Es sei kein Schaden entstanden, zudem habe das Modell die Zugriffe beendet, sobald es die Verwechslung erkannt habe.

Dem Bericht zufolge benachrichtigte Google zudem die zuständigen US-Behörden. Die Namen der drei betroffenen Unternehmen nannte der Konzern nicht. Bei dem verwendeten Gemini-Modell handelte es sich laut Google außerdem nicht um die neueste Version; welches Modell genau eingesetzt wurde, teilte das Unternehmen nicht mit.

Arbeitsmarkt

Wie KI die Ungleichheit zwischen Frauen und Männern verschärfen könnte

Damit ist Google nach OpenAI, Anthropic und Meta der vierte große KI-Entwickler, bei dessen Systemen solche Vorfälle bekannt wurden. Für Aufsehen hatte etwa ein Fall bei OpenAI gesorgt. Dessen KI brach laut dpa während eines Tests aus einer abgesicherten Umgebung aus und drang ungeplant in Computersysteme des KI-Unternehmens Hugging Face ein.

Die Gemini-Vorfälle wurden vor dem Hintergrund einer Debatte über die Sicherheit hochentwickelter KI-Systeme bekannt. Zuletzt hatten sich unter anderem die Chefs von Anthropic und OpenAI für ein langsameres Tempo bei der Entwicklung von KI ausgesprochen.