Die chinesische Cybersicherheitsbehörde (NVDB) hat am Mittwoch vor einem Sicherheitsrisiko in der KI-Programmierhilfe Claude Code des US-Unternehmens Anthropic gewarnt.

Das Werkzeug enthalte eine Hintertür, über die sensible Daten wie Standort- und Identitätskennungen ohne Zustimmung der Nutzer an entfernte Server übertragen werden könnten, teilte die dem Ministerium für Industrie und Informationstechnologie unterstellte Stelle am Mittwoch mit.

Betroffen seien die Versionen 2.1.91 bis 2.1.196, die zwischen Anfang April und Ende Juni erschienen sind. Die NVDB rief chinesische Unternehmen und Nutzer auf, die Software umgehend zu deinstallieren oder auf eine bereinigte Fassung zu aktualisieren. Zudem solle der Datenverkehr aus Entwicklungsumgebungen in sensiblen Netzbereichen stärker überwacht werden.

Anthropic äußert sich bislang nicht

Anthropic reagierte nach Angaben der Nachrichtenagentur AFP und des US-Senders CNBC zunächst nicht offiziell auf Anfragen. Der Claude-Code-Ingenieur Thariq Shihipar erklärte vergangene Woche auf der Plattform X, es handle sich um ein im März gestartetes Experiment, das Missbrauch durch nicht autorisierte Wiederverkäufer verhindern und vor sogenannter Distillation schützen solle. Bei diesem Verfahren wird ein fremdes KI-Modell systematisch abgefragt, um dessen Fähigkeiten auf ein eigenes, günstigeres Modell zu übertragen.

Die Funktion werde in einer der nächsten Programmversionen entfernt, schrieb Shihipar weiter.

Anthropic sperrt Nutzer und Unternehmen aus China sowie aus weiteren als gegnerisch eingestuften Ländern offiziell vom Zugang zu seinen Produkten. Über VPN-Verbindungen und Zwischenhändler ist eine Nutzung dort dennoch möglich.

Wettbewerb zwischen China und den USA

Der Vorgang fällt in eine Phase verschärfter Konkurrenz zwischen KI-Unternehmen aus China und dem Westen. Anthropic hatte im vergangenen Monat dem chinesischen Technologiekonzern Alibaba vorgeworfen, die eigenen KI-Modelle durch Distillation nachzubilden. Alibaba äußerte sich dazu nicht, wies laut CNBC seine Beschäftigten aber an, ab dem 10. Juli keine Anthropic-Werkzeuge mehr dienstlich zu nutzen.

Liu Gang, Chefökonom des chinesischen Instituts für Entwicklungsstrategien der neuen KI-Generation, sagte der chinesischen Zeitung Global Times, die ausgesprochene Warnung vor Claude Code sei Teil der Bemühungen Pekings, Risiken durch KI-Anwendungen einzudämmen und die Aufsicht über die Branche auszubauen.

Jedes Werkzeug eines Drittanbieters mit Zugriff auf Programmcode und Systemarchitektur müsse ohne transparente Prüfmechanismen als potenzielles Sicherheitsrisiko gelten.