„Fehlverhalten“: Indiens Oberstes Gericht warnt vor KI-generierten Urteilen

Indiens Supreme Court hat am Montag gewarnt, dass Gerichtsentscheidungen auf Basis von KI-generierten, nicht existierenden Urteilen als „Fehlverhalten“ gewertet werden – und nicht bloß als Fehler in der Entscheidungsfindung. Das berichteten die BBC und die Times of India übereinstimmend. Das höchste Gericht des Landes reagierte damit auf einen Fall aus dem Bundesstaat Andhra Pradesh, in dem eine Richterin vier frei erfundene KI-Zitate als Präzedenzfälle herangezogen hatte. Das Gericht sprach von einer Angelegenheit von „institutioneller Tragweite“, die unmittelbar die „Integrität des Rechtsprechungsprozesses“ betreffe.

Der Fall geht auf August vergangenen Jahres zurück: Eine Zivilrichterin in der Stadt Vijaywada wies in einem Immobilienstreit den Einspruch der Beklagten ab und stützte sich dabei auf vier juristische Entscheidungen – die allesamt nicht existierten. Generative KI-Systeme sind dafür bekannt, sogenannte „Halluzinationen“ zu produzieren, also falsche Informationen überzeugend als Tatsachen darzustellen.

Die Beklagten legten Berufung beim High Court des Bundesstaates ein. Dieser erkannte zwar an, dass die zitierten Urteile frei erfunden waren, ließ die Entscheidung des Untergerichts aber bestehen. Begründung: Die Richterin habe die korrekten Rechtsprinzipien angewandt, das bloße Nennen nicht existierender Quellen reiche nicht aus, um den Beschluss aufzuheben. Die Richterin selbst gab laut BBC an, erstmals ein KI-Tool genutzt und die Zitate für echt gehalten zu haben.

Immer wieder Fälle von KI-Urteilen

Der Supreme Court setzte daraufhin vergangenen Freitag die Entscheidung des Untergerichts aus und lud den Generalstaatsanwalt Indiens und seinen Stellvertreter sowie die indische Anwaltskammer vor, um den Fall eingehend zu prüfen.

Bereits im Vormonat hatte der Supreme Court laut dem Rechtsportal LiveLaw die zunehmende Nutzung von KI-Tools durch Anwälte kritisiert. Auch international häufen sich ähnliche Fälle: Im Oktober wurden in den USA zwei Bundesrichter wegen fehlerhafter KI-gestützter Urteile gerügt, und im Juni 2025 warnte der High Court von England und Wales Anwälte vor KI-generierten fiktiven Quellen. Der indische Supreme Court veröffentlichte im vergangenen Jahr ein Whitepaper mit Leitlinien für den KI-Einsatz in der Justiz und betonte die Notwendigkeit menschlicher Kontrolle.