Künstliche Intelligenz hält zunehmend Einzug in die Medizin – etwa bei der Analyse radiologischer Aufnahmen, in der Pathologie oder bei der Unterstützung diagnostischer Entscheidungen. Studien zeigen, dass KI-Systeme Hautkrebs oder andere Malignome mitunter treffsicherer erkennen können als erfahrene Fachärzte. Gleichwohl stellt sich die Frage, wie die Verantwortung verteilt ist, wenn ein KI-System Fehler macht.
Ärztinnen und Ärzte dürfen KI-Systeme grundsätzlich einsetzen, solange sie die gebotene Sorgfalt wahren und Patientinnen und Patienten umfassend aufklären. Haftungsrechtlich steht dabei weniger die Technologie als vielmehr ihr sachgerechter Umgang im Vordergrund.
KI als Neulandmethode – erhöhte Aufklärungspflicht
Solange eine KI-Anwendung noch nicht allgemein als medizinischer Standard gilt, wird sie rechtlich wie eine sogenannte Neulandmethode behandelt (BGH, VI ZR 401/19; VI ZR 323/04 – „Robodoc“). Das bedeutet: Der Einsatz ist erlaubt, verlangt aber eine besonders sorgfältige Aufklärung. Patientinnen und Patienten müssen nicht nur über Chancen und Risiken informiert werden, sondern ausdrücklich auch darüber, dass es sich um eine neuartige Methode mit noch unbekannten Risiken handelt. Nur wenn sie wissen, „worauf sie sich einlassen“, ist ihre Einwilligung wirksam.
Für den Praxisalltag heißt das: Aufklärungsgespräche sollten einschließlich der Begründung, warum der Einsatz der neuen Methode medizinisch sinnvoll ist, sowie der besonderen Aufklärung der Patientin oder des Patienten schriftlich dokumentiert werden.
Tritt trotz ordnungsgemäßer Aufklärung ein Schaden ein, führt dies nicht automatisch zu einer Haftung, sofern die gewählte Methode medizinisch vertretbar war und sich ein Risiko verwirklicht hat, das zum Zeitpunkt der Behandlung noch nicht erkennbar oder vermeidbar war.
Etablierte Systeme – Rückkehr zur Regelaufklärung
Hat sich eine KI-Anwendung zum medizinischen Standard entwickelt, genügt nach ständiger Rechtsprechung eine Aufklärung „im Großen und Ganzen“ über die typischen Risiken der Behandlung (§ 630 e Abs. 1 BGB). Dennoch empfiehlt sich derzeit, den KI-Einsatz zusätzlich zu erwähnen, da Unsicherheiten und Skepsis gegenüber „maschinellen“ Entscheidungen fortbestehen. Eine Berufung auf das Rechtskonstrukt der „hypothetischen Einwilligung“ dürfte – angesichts der derzeit häufig noch bestehenden Vorbehalte und Ängste gegenüber „autonomer Behandlung“ bei Patientinnen und Patienten – (noch) nicht greifen.
Therapiefreiheit und Haftungsrahmen
Ärztinnen und Ärzte können im Rahmen ihrer Therapiefreiheit entscheiden, ob sie KI-Systeme nutzen. Die Nutzung neuer Technik ist rechtlich zulässig – sie darf aber nur nach sorgfältiger Abwägung von Nutzen und Risiken erfolgen. Auch der Nichtgebrauch kann haftungsrelevant werden: Sobald sich ein KI-gestütztes Verfahren zum allgemein anerkannten Standard entwickelt hat, kann der Verzicht darauf ein Zurückbleiben hinter dem geschuldeten Sorgfaltsmaßstab darstellen. Entscheidend bleibt, dass jeweils das „in der konkreten Situation Mögliche und Zumutbare“ geschuldet ist, nicht das technisch Optimale.
Haftung bei Fehlfunktionen
Fehler eines KI-Systems begründen nicht automatisch eine Haftung der Ärztin oder des Arztes. Eine Pflichtverletzung liegt nur vor, wenn das System unsachgemäß ausgewählt, bedient oder überwacht wurde. Ärztinnen und Ärzte müssen sich mit der Funktionsweise vertraut machen, die Ergebnisse kritisch prüfen und den Einsatz dokumentieren. Ein „blindes Vertrauen“ in automatisierte Vorschläge wäre sorgfaltswidrig.
Delegation und Verantwortlichkeit
Bei menschlichen Mitbehandelnden gilt: Überweist der Hausarzt eine Patientin zum Hautkrebsscreening an den Dermatologen, haftet bei Fehldiagnose in der Regel der Facharzt. Setzt der Hausarzt dagegen eine Screening-App ein, die fehlerhaft arbeitet, bleibt offen, ob er für deren Ergebnis haftet. Die Rechtsprechung hat diese Frage bislang nicht entschieden. Zu welchen Ergebnissen die Rechtsprechung kommt ist bei der rasanten Entwicklung von KI-gestützen Diagnosetools nicht absehbar. Bis zu einer Klärung empfiehlt es sich, KI-basierte Diagnosen nicht als Ersatz eigener ärztlicher Beurteilung anzusehen.
Fazit für die Praxis
Künstliche Intelligenz kann ärztliche Entscheidungen verbessern, sie aber nicht ersetzen. Ärztinnen und Ärzte sollten
- den Einsatz von KI-Systemen bewusst auswählen und dokumentieren,
- Patientinnen und Patienten offen über den Einsatz und mögliche Unsicherheiten informieren,
- KI-Ergebnisse stets kritisch prüfen und mit klinischen Befunden abgleichen,
- und einrichtungsintern Verfahren schaffen, die Aufklärung und Dokumentation rechtssicher gestalten.
So lässt sich medizinischer Fortschritt verantwortungsvoll nutzen, ohne haftungsrechtlich ins Risiko zu geraten.
