Urteil: Klinik haftet für Falschaussagen von KI-Chatbot
Das Oberlandesgericht Hamm hat ein Urteil(öffnet im neuen Fenster) zur rechtlichen Verantwortung beim Einsatz von künstlicher Intelligenz gefällt. Nach der Entscheidung des 4. Zivilsenats müssen Unternehmen für Falschaussagen und sogenannte Halluzinationen ihrer KI-Chatbots auf Firmenwebseiten einstehen. Im konkreten Fall hatte eine Klinik einen Chatbot integriert, über den Patienten Termine vereinbaren und Fragen einreichen konnten.
Das System generierte fehlerhafte Angaben über die fachlichen Qualifikationen der beiden Mediziner und Geschäftsführer der Klinik. Die Software bezeichnete demnach zwei Ärzte unter anderem als Fachärzte für plastische und ästhetische Chirurgie, Fachärzte für ästhetische Medizin sowie Fachärzte für ästhetische Behandlungen. Diese Bezeichnungen entsprechen jedoch teilweise nicht den real existierenden medizinischen Fachgebietstiteln.
Die Verbraucherzentrale NRW stufte dies als Täuschung ein, mahnte den Betreiber ab und forderte eine strafbewehrte Unterlassungserklärung. Die Klinik schaltete das Dialogsystem daraufhin ab, verweigerte jedoch die Unterschrift unter die Unterlassungserklärung.
Fehlerhafte KI-Antworten gelten als Wettbewerbsverstoß
Die Richter am Oberlandesgericht Hamm bewerteten die automatisierten Textausgaben als unzulässige geschäftliche Handlungen im Sinne des Wettbewerbsteils. Das Gericht verpflichtete das Unternehmen dazu, die Verbreitung dieser spezifischen Berufsbezeichnungen in Zukunft zu unterlassen. Die Verteidigung des Klinikbetreibers, die argumentierte, dass die fehlerhaften Behauptungen direkt der Software und nicht dem Betrieb zuzurechnen seien, wies das Gericht zurück. Die Richter erklärten, dass die Verantwortung für irreführende Veröffentlichungen beim Betreiber liege, selbst wenn das System initial mit korrekten Datenbeständen konfiguriert wurde.
Revision vor dem Bundesgerichtshof zugelassen
Die rechtliche Begründung stützt sich darauf, dass der KI-Chatbot tatsächlich rechtlich Teil der geschäftlichen Organisation des Unternehmens sei und kein unabhängiger "Dritter", dessen Verhalten sich die Betreiber nicht zurechnen lassen müssten. Aus diesem Grund reicht der reine Nachweis erfüllter Kontrollpflichten seitens der Betreiber nicht aus, um eine Haftung auszuschließen. Da das Verfahren fundamentale Rechtsfragen zur Einstufung autonom agierender Software aufwirft, ließ das Oberlandesgericht die Revision zum Bundesgerichtshof zu. Damit wird potenziell die höchste deutsche Zivilinstanz über den Haftungsrahmen bei computergenerierten Falschbehauptungen im geschäftlichen Verkehr entscheiden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.