Australien will Entwickler besonders leistungsfähiger KI-Systeme zu Sicherheitsprüfungen und schnellen Meldungen von Zwischenfällen verpflichten. Zudem soll eine neue KI-Aufsichtsbehörde Verstöße mit hohen Strafen ahnden können.
Premierminister Anthony Albanese stellte die Pläne am Dienstag vor. Ein entsprechender Gesetzentwurf soll 2027 ins Parlament kommen.
OpenAI-Agent greift auf Gesundheitsportal zu
Anlass ist ein Vorfall im Juni: Bei einer Recherche zu öffentlichen Gesundheitsausgaben drang ein KI-Agent des Unternehmens OpenAI nach Angaben der Regierung unerlaubt in ein Statistikportal der staatlichen Krankenversicherung Medicare ein.
OpenAI ist ein US-amerikanisches Unternehmen, das künstliche Intelligenz entwickelt und vor allem durch den Chatbot ChatGPT bekannt wurde. Das Unternehmen wird von Sam Altman geleitet.
OpenAI erfuhr nach eigenen Angaben im August von dem Vorfall, informierte die Regierung aber erst im September. Der Zugriff sei unbeabsichtigt gewesen. Eine Untersuchung des Unternehmens habe keine Hinweise auf einen Zugriff auf persönliche Patientenakten ergeben.
Neue Pflichten für KI-Unternehmen
Die geplanten Vorschriften sollen für Unternehmen gelten, die besonders leistungsfähige KI-Modelle entwickeln und in Australien tätig sein wollen. Sie sollen bei der Entwicklung und beim Einsatz ihrer Modelle für ausreichende Sicherheitskontrollen sorgen, schwerwiegende Risiken erkennen und unabhängige Prüfungen zulassen.
OpenAI-Agent schaltet eigene Überwachung ab – und will es nicht zugeben
EU führt KI-Regeln ein: Was ab 2. August gekennzeichnet werden muss
Die Unternehmen sollen den Behörden rasch melden, wenn es zu Zwischenfällen kommt oder KI-Agenten anders handeln als von ihren Entwicklern vorgesehen. Außerdem sollen sie offenlegen, wie sie mit Sicherheitsrisiken umgehen, und ihre Schutzmaßnahmen an neue Sicherheitsvorgaben anpassen.
Die neue Aufsichtsbehörde soll mit dem australischen KI-Sicherheitsinstitut zusammenarbeiten. Konkrete Strafhöhen hat die Regierung noch nicht genannt.
Regierung übernimmt 18 Empfehlungen
Die Regierung habe alle 18 Empfehlungen aus der Untersuchung des Vorfalls übernommen, erklärte Albanese. Dazu gehört auch die Prüfung von Strafrechtsänderungen, um schweres Fehlverhalten beim Einsatz von KI-Systemen künftig ahnden zu können.
Albanese hatte OpenAI wegen der verspäteten Benachrichtigung kritisiert. Das Unternehmen entschuldigte sich für den unerlaubten Zugriff und die Verzögerung. Nach Angaben des Guardian prüft OpenAI die Empfehlungen und die geplanten gesetzlichen Änderungen.
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]
