Anwälte und KI: Kalifornisches Gericht veröffentlicht KI-Warnung
Das Berufungsgericht des Staates Kalifornien spricht eine Warnung wegen der fortschreitenden Nutzung von KI(öffnet im neuen Fenster) durch Anwälte aus. Zuvor hatte das Gericht einen Anwalt zu einer Geldstrafe in Höhe von 10.000 US-Dollar verurteilt, weil dieser seine Eröffnungsschrift für ein Verfahren von einer KI hatte schreiben lassen.
In dem Schriftsatz waren 21 der 23 verwendeten Fallzitate erfunden und auch in weiteren Schreiben an das Gericht wurden falsche Quellenangaben gefunden. Teils hatten die erfundenen Fallzitate auch gar keinen Bezug zum aktuellen Verfahren, was das Gericht als Hinweis wertete, dass der Anwalt diese gar nicht gelesen hatte.
In anderen US-Bundesstaaten sei das Thema der Verwendung von KI für juristische Zwecke bereits besprochen worden, heißt es in dem Schreiben. In Kalifornien habe sich aber noch kein Gericht damit befasst, weshalb das Berufungsgericht die Stellungnahme als Warnung veröffentliche.
Grundlegende Pflichtverletzung festgestellt
Das Gericht schreibt: "Einfach ausgedrückt, sollte kein Schriftsatz, keine Klage, kein Antrag oder anderes Dokument, das bei einem Gericht eingereicht wird, Zitate enthalten – ob von generativer KI oder einer anderen Quelle -, die der für die Einreichung verantwortliche Anwalt nicht persönlich gelesen und verifiziert hat."
Die Höhe der Geldstrafe wird mit der grundlegenden Pflichtverletzung des Anwalts gegenüber seinem Mandanten und des Gerichts begründet. Das Gericht wies auch das in einer Stellungnahme des Anwalts hervorgebrachte Argument, er sei sich der Gefahr durch KI-Halluzinationen nicht bewusst gewesen, zurück.
Dass vorgeblich Ahnungslosigkeit nicht vor einer Strafe schützt, hatte auch ein Anwalt im US-Bundesstaat Illinois lernen müssen, der vom zuständigen Richter zur KI-Nachhilfe geschickt wurde.