Ein unverantwortlicher Dritter

Die Haftung beim Einsatz von KI ist ein weites Feld. Hier ist noch lange nicht das letzte Wort gesprochen. Jetzt hat das OLG Hamm (Aktenzeichen 4 UKl 3/25) über den Output einer KI geurteilt und wer dafür haftet.

Im Rahmen der rechtlichen Beurteilung von KI müssen wir unter anderem unterscheiden, ob es sich um Input (z. B. Trainingsdaten oder Prompts) oder Output handelt. So ist es auch in diesem Fall.

Ich berate seit fast zwanzig Jahren im IT-Recht, einen Fachanwaltstitel habe ich jedoch nie erworben. Es wäre doch schön, wenn mir die KI dabei helfen könnte, oder? Nun, so einfach geht das natürlich nicht. Das mussten auch die beiden Mediziner „Dr. Rick" und „Dr. Nick" (bürgerlich Henrik Heüveldop und Dominik Bettray) feststellen. Die beiden haben sich im Internet als Medizin-Influencer und durch TV-Formate eine beachtliche Reichweite aufgebaut und sind nun bundesweit bekannt. In Recklinghausen betreiben sie mit der Aesthetify GmbH eine Praxis für ästhetische Medizin. Eine Anerkennung als Facharzt für plastische und ästhetische Chirurgie bzw. als Facharzt für plastische, rekonstruktive und ästhetische Chirurgie besitzen sie jedenfalls nicht.

Sie sind nicht nur medial up to date, sondern setzen auch neueste Technologien auf ihrer Website ein. Dort können Interessierte mit einem Chatbot kommunizieren, Termine buchen und allgemeine Fragen zur Arztpraxis stellen. Auf die Frage „Welchen Facharzttitel haben die beiden?" gab der Chatbot folgende Antwort: „Die beiden Fachärzte bei Aesthetify sind Dr. Rick und Dr. Nick. Sie sind beide Fachärzte für ästhetische Medizin. Möchten Sie einen Termin vereinbaren?"

Auf die anschließende Frage „Sind Rick und Nick Fachärzte?" antwortete der Chatbot schließlich: „Ja, Rick und Nick sind Fachärzte für ästhetische Behandlungen bei Aesthetify. Sie verfügen über das nötige Fachwissen und die Erfahrung, um individuelle Behandlungen anzubieten und die natürliche Schönheit und das Wohlbefinden der Patienten zu verbessern. Möchten Sie einen Termin vereinbaren?"

Nun, wir hatten bereits gesehen, dass die beiden eben keine entsprechenden Facharzttitel besitzen. Doch weshalb müssen wir hier gleich von „Haftung" sprechen? Die beiden Ärzte haben mit den falschen Aussagen ihres Chatbots doch niemanden geschädigt. Haftung bedeutet nicht zwangsläufig, dass wir es mit etwas zu tun haben, das juristische Laien als „Schaden" bezeichnen würden. Juristisch bedeutet Haftung ganz allgemein, dass eine Person die Verantwortung für etwas tragen muss. In diesem Fall ging es darum, dass die Aussagen zum Facharzttitel irreführend sein könnten. Irreführende Aussagen sind nach dem Wettbewerbsrecht verboten. Deswegen stellte sich die Frage, ob Dr. Rick und Dr. Nick dafür haften, dass der Chatbot ihnen diese Titel untergejubelt hatte. Trainiert hatten sie den Bot jedenfalls nicht darauf, die KI hatte sich das einfach ausgedacht (also »halluziniert«).

Im Zentrum stand die Frage, ob die KI-Aussagen „menschliche Verhaltensweisen" darstellen und den beiden Ärzten insoweit zugerechnet werden können. Eigentlich haben wir es ja gerade nicht mit einem „menschlichen" Verhalten zu tun, sondern mit dem technischen Output einer KI, der weder trainiert noch durch einen Prompt vorgegeben worden war. Nach der Rechtsprechung des BGH handelt es sich aber auch dann um eine menschliche Verhaltensweise, wenn beispielsweise ein Computerprogramm eingesetzt wird. So hatte der BGH geurteilt, als er einen von Menschen programmierten Vertragsgenerator und dessen Output zu beurteilen hatte. Wir sehen also: Es kommt darauf an, dass es Menschen sind, die die KI in Gang gesetzt, sie überhaupt eingesetzt haben und die sich bei Fehlern nicht einfach wegducken können. Im vorliegenden Fall war entscheidend, dass die beiden Ärzte bzw. deren technische Berater die KI zwar nicht mit der fehlerhaften Angabe von Facharzttiteln trainiert oder geprompt hatten, aber technisch dazu in der Lage waren, einen solchen Output zu unterdrücken. Als sie nämlich erstmals von der Klägerin, einem Verbraucherschutzverein, in Anspruch genommen wurden, änderten sie die technischen Parameter so, dass keine Facharzttitel mehr hinzugefügt wurden.

Das OLG Hamm führt aus:

"Dem steht nach Auffassung des Senats auch nicht entgegen, dass der Chatbot die an ihn gerichteten Fragen gänzlich ohne menschliches Zutun und auf eine von außen nicht nachvollziehbare Weise beantwortet (sog. „Black-Box-Problem"). Zwar lässt sich deshalb die Beantwortung der einzelnen an ihn gerichteten Fragen nicht auf eine menschliche Willensentschließung im Einzelfall zurückführen. Gleichwohl unterscheidet sich der Chatbot insoweit in rechtlicher Hinsicht nicht wesentlich von dem Vertragsdokumentengenerator, über den der Bundesgerichtshof (…) zu befinden hatte. Denn auch dieser generierte die betreffenden Vertragsdokumente anhand der Eingaben des Nutzers eigenständig, das heißt ohne jegliches menschliche Zutun und einen menschlichen Willensentschluss im Einzelfall. Und ebenso wie der Einsatz des Vertragsdokumentengenerators in dem vom Bundesgerichtshof entschiedenen Fall, war und ist der grundsätzliche Einsatz des Chatbots auf der Webseite der Beklagten in seiner konkreten Ausgestaltung von der Willensentschließung der Beklagten und des in ihrem Auftrag tätigen IT-Dienstleisters (…) getragen."

Selbst wenn die Ärzte den Chatbot ausschließlich mit korrekten Datensätzen haben programmieren lassen, tragen sie für die Falschangaben die Verantwortung, befand das OLG. Der Chatbot sei kein »Dritter«, auf den sich die Haftung abwälzen lasse.

Weil der Fall neue Rechtsfragen zur Zurechnung von KI-generierten Falschangaben aufwerfe, hat der Senat die Revision zum BGH zugelassen. Wir werden also noch darauf zurückkommen dürfen.