Trotz KI-Fehler korrekt: VGH verlinkt falsche Quellen mit ChatGPT-Parametern
Der Hessische Verwaltungsgerichtshof (VGH) hat in einem Beschluss Links zu Quellen angegeben, die Tracking-Parameter von ChatGPT enthielten. Wie die Frankfurter Allgemeine Zeitung (FAZ) berichtet(öffnet im neuen Fenster), führte die Nutzung von ChatGPT zudem zu fehlerhaften und unpassenden Verlinkungen.
In dem am 24. Juni 2026 gefassten Beschluss(öffnet im neuen Fenster) wendet sich der VGH an den Europäischen Gerichtshof, um zu klären, ob Ukrainer auch dann ein Aufenthaltsrecht in der EU haben, wenn sie zuvor nach Georgien und erst später nach Deutschland geflüchtet sind.
Der Beschluss verweist auf ein georgisches Regierungsdekret vom 24. Februar 2026, der dazugehörige und von ChatGPT gelieferte Quelllink führt allerdings zu einem Artikel aus dem Jahr 2025. An einer anderen Stelle sollte ein Dekret aus dem Jahr 2015 verlinkt werden, stattdessen führte der Link zu einer Änderungsverordnung aus dem Jahr 2025.
Richter dürfen KI-Tools verwenden
Auf Anfrage der Zeitung betonte das Gericht, dass der Beschluss inhaltlich korrekt sei und deshalb keiner Korrektur bedürfe. ChatGPT sei nicht als einzige Quelle verwendet worden und die Dekrete, die sich nicht aus den angegebenen Verlinkungen erschließen lassen, hätten auch aus anderen Quellen vorgelegen, so das Gericht.
Aufgrund der schwierigen Quellenlage in Georgien habe die KI zudem Zugriff auf Informationen ermöglicht, die mit herkömmlichen Rechercheinstrumenten nur schwer auffindbar gewesen wären, erklärt das Gericht weiter. Zudem habe im Wissen, dass KI-Tools fehleranfällig sind und halluzinieren können, stets eine Gegenkontrolle der Inhalte stattgefunden.
Auf die Frage, ob man künftig Parameter wie source=chatgpt.com aus den Links löschen werde, antwortete das Gericht lediglich, dass das Verfassen von Entscheidungsgründen und die Zitierweise zur richterlichen Unabhängigkeit gehörten.
Der Hessische VGH stellte klar, dass Richter KI-Tools wie ChatGPT grundsätzlich zu Recherchezwecken nutzen dürfen. Dabei dürfen allerdings keine geschützten Informationen, wie Akteninhalte, personenbezogene Daten und Dienst- oder Geschäftsgeheimnisse in die KI-Tools eingespeist oder damit verarbeitet werden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.