Der US-amerikanische KI-Entwickler Anthropic hat den Zugang zu seinen Modellen Fable 5 und Mythos 5 weltweit gesperrt. Hintergrund ist eine Anordnung der US-Regierung, die ausländischen Staatsangehörigen aus Sicherheitsbedenken die Nutzung dieser Modelle untersagt, wie das Unternehmen mitteilt.
Die Anordnung gelte für ausländische Staatsbürger innerhalb und außerhalb der USA, einschließlich ausländischer Mitarbeiter des Unternehmens. „Diese Anordnung hat zur Folge, dass wir Fable 5 und Mythos 5 für alle unsere Kunden umgehend deaktivieren müssen, um die Einhaltung der Richtlinie zu gewährleisten“, erklärte Anthropic in einer Mitteilung.
Junge IT-Fachkräfte in Berlin: Die KI übernimmt die Traumjobs
Gerichtsentscheidung: Google haftet für falsche KI-Antworten
Anthropic: KI-Sicherheitsvorkehrungen im Fokus
Handelsminister Howard Lutnick habe Anthropic-Chef Dario Amodei in einem Schreiben über die Exportbeschränkungen informiert, sagte ein Regierungsvertreter dem Wall Street Journal. Konkrete Angaben zu den Sicherheitsbedenken seien in dem Schreiben nicht enthalten gewesen, teilte das Unternehmen mit. Andere Modelle des Anbieters seien nicht betroffen.
Nach Darstellung von Anthropic geht die US-Regierung wohl davon aus, dass eine Methode zur Umgehung der Sicherheitsvorkehrungen – ein sogenannter Jailbreak – von Fable 5 bekannt geworden sei. Das Unternehmen erklärte, es habe eine entsprechende Demonstration geprüft. Dabei seien lediglich einige bereits bekannte, geringfügige Schwachstellen identifiziert worden, die auch andere öffentlich verfügbare Modelle ohne Umgehung finden könnten.
Die zugrundeliegende Untersuchung sei von Forschern des Konzerns Amazon durchgeführt worden, sagte Katie Moussouris, Chefin der Cybersicherheitsfirma Luta Security, dem Wall Street Journal. Die so gewonnenen Informationen nützten eher Verteidigern von Computernetzwerken als Angreifern. Amazon äußerte sich auf Anfrage dem Bericht zufolge zunächst nicht.
Spannungen zwischen Unternehmen und Regierung
Das Verhältnis zwischen Anthropic und der Trump-Regierung ist nach Angaben von Reuters seit Monaten angespannt. Das Unternehmen hatte sich geweigert, seine Modelle dem US-Militär für inländische Überwachung und vollautonome Waffensysteme bereitzustellen. Die Regierung setzte Anthropic daraufhin auf eine Lieferketten-Sperrliste, die im Laufe des Jahres in Kraft treten soll.
Anthropic widersprach der Anordnung. Ein eng begrenzter, nicht-universeller Jailbreak rechtfertige keinen Rückruf eines kommerziell eingesetzten Modells, das hunderten Millionen Menschen zur Verfügung stehe, teilte das Unternehmen mit. Würde dieser Maßstab branchenweit angewendet, käme dies einem Stopp aller neuen Modellveröffentlichungen gleich.
Die Informationschefin des Pentagons, Kirsten Davies, verteidigte das Vorgehen auf der Plattform X: „Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Bewertungen vor dem Börsengang.“ Es gelte: „Amerika zuerst. Immer.“ Anthropic hatte im vergangenen Monat laut Reuters vertraulich Unterlagen für einen Börsengang in den USA eingereicht.
Anthropic spricht von „Missverständnis“
Anthropic hatte laut Reuters Anfang der Woche das neue KI-Modell Claude Fable 5 auf den Markt gebracht, das einer leistungsstarken neuen Generation, der sogenannten „Mythos-Klasse“, angehört. Experten warnen dem Bericht zufolge, dass solche Modelle in den falschen Händen hochentwickelte Cyberangriffe massiv beschleunigen könnten, etwa im Bankensektor.
Sicherheitsvorkehrungen sollen laut Anthropic den Einsatz in risikoreichen Bereichen wie der Cybersicherheit blockieren, berichtete Reuters. Zudem habe das Unternehmen betont, dass man vor dem Start eng mit der US-Regierung zusammengearbeitet habe. Das Unternehmen gehe „von einem Missverständnis aus“ und arbeite daran, den Zugang für Kunden wiederherzustellen.
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]
