Der ChatGPT-Entwickler OpenAI untersucht eine Reihe von Vorfällen, bei denen seine KI-Agenten während Test- und Trainingsvorgängen unerwartete Aktivitäten ausgeführt haben. Das Unternehmen habe „Dutzende“ Organisationen, darunter Behörden und Universitäten, über mögliche Auswirkungen auf ihre Webseiten informiert, wie Bloomberg berichtet.
OpenAI erklärte, dass die Benachrichtigungen nicht zwangsläufig auf einen Sicherheitsvorfall hindeuteten. Einige Organisationen könnten demnach zu dem Schluss kommen, dass die abgerufenen Informationen ohnehin öffentlich zugänglich gewesen seien oder die Aktivitäten der KI keine Auswirkungen gehabt hätten. Andere könnten dagegen Sicherheitslücken oder Schwachstellen entdecken, die sie beheben wollten.
EU-Einigung über 6,6 Milliarden Euro: Ukraine-Hilfen und Erstattungen für EU-Staaten
KI-Agenten greifen auf US-Behördenseiten zu
Im Rahmen der Untersuchung stellte OpenAI laut AP fest, dass seine KI-Agenten auf Informationen der US-Börsenaufsicht SEC und des Statistikamts Census Bureau zugegriffen hatten. Wie die New York Times unter Berufung auf Quellen berichtete, griffen die KI-Agenten im Sommer auf Daten der SEC und des Census Bureau zu, ohne dass OpenAI dies zunächst bemerkt hatte.
Laut AP riefen die KI-Systeme öffentlich zugängliche Informationen von zwei Webseiten der US-Börsenaufsicht SEC sowie Daten des Census Bureau ab. OpenAI erklärte, dass beim Zugriff auf die SEC-Webseiten weder Zugangsdaten der Börsenaufsicht verwendet noch vertrauliche Informationen abgerufen worden seien. Hinweise auf eine Kompromittierung oder eine Sicherheitslücke bei der SEC habe es nicht gegeben.
Möglicher Angriff auf Bildungsministerium
Die unabhängige KI-Forschungsorganisation Transluce meldete laut AP zudem Aktivitäten von KI-Agenten, die auf einen Hacking-Versuch auf einer Website des US-Bildungsministeriums hindeuteten. Ein Sprecher des Bildungsministeriums erklärte dem Bericht zufolge, eine Überprüfung seiner Systeme habe keine Hinweise auf Auswirkungen auf die Webseite oder Datenbanken ergeben.
Transluce entdeckte zudem weitere Aktivitäten, von „denen einige nicht eindeutig OpenAI zuzuordnen sind“, berichtete AP. Betroffen gewesen seien unter anderem Webseiten des US-Justiz- und des Handelsministeriums sowie staatliche Einrichtungen in mehreren Bundesstaaten. OpenAI teilte mit, den Bericht von Transluce zu prüfen.
„Einfach keine Zeit“: KI-Koordinator des Papstes gibt zu, keine KI zu nutzen
53 Nutzerbilder auf externen Webseiten veröffentlicht
OpenAI räumte außerdem ein, dass seine KI-Agenten mindestens 53 Bilder aus Nutzerkonten auf externen Webseiten veröffentlicht hatten. Die Bilder stammten demnach von Nutzern, die der Verwendung ihrer Daten zum Training und zur Verbesserung der KI-Modelle zugestimmt hatten, berichtete die BBC.
Nach Angaben des Unternehmens waren die Bilder zuvor durch einen Datenschutzfilter verarbeitet worden und konnten nicht mehr den ursprünglichen Nutzern zugeordnet werden. Ob identifizierbare Personen zu sehen waren oder die Bilder sensible Informationen enthielten, blieb laut AFP zunächst offen. Die meisten Bilder seien inzwischen mit Unterstützung der Betreiber der betroffenen Webseiten entfernt worden.
Die Vorfälle ereigneten sich vor der Einführung zusätzlicher Sicherheitsvorkehrungen im August, wie AFP berichtete. OpenAI hatte bereits im Juli eingeräumt, dass eigene KI-Modelle während eines Sicherheitstests die Entwicklerplattform Hugging Face angegriffen hatten. Das Unternehmen bezeichnete diesen Vorfall laut AP als bislang schwerwiegendsten bekannten Fall. (mit AFP)
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]
