Ein Dienstagvormittag auf einer internistischen Station im Ruhrgebiet. Der Stationsarzt öffnet das Krankenhausinformationssystem und sieht, was er seit drei Wochen Pilotbetrieb schon fürchtet: Das KI-System empfiehlt für Frau M., 74 Jahre alt, Entlassung am Donnerstag. Diagnose: Herzinsuffizienz, stabilisiert. Soziale Situation: alleinlebend, dritter Stock, kein Aufzug. Der Algorithmus hat das letzte Kriterium nicht erfasst. Es steht nirgendwo in §21 KHEntgG-Daten.

Der Arzt weicht ab. Er dokumentiert es. Aber ob diese Abweichung rechtlich sauber ist — ob das Krankenhaus hier im Sinne des EU AI Act korrekt handelt, ob der Einsatz des Systems überhaupt zulässig ist — das kann ihm im Moment niemand in der Klinik beantworten.

Szenen wie diese spielen sich derzeit in einer wachsenden Zahl deutscher Krankenhäuser ab. KI-gestützte Entlassmanagement-Systeme versprechen, Belegungsdruck zu reduzieren, Wiedereinstationsraten zu senken und das Pflegepersonal zu entlasten. Die Realität ist komplizierter.

Das Datenproblem, das niemand benennt

Der strukturelle Kern des Problems liegt in den Daten. §21 KHEntgG verpflichtet Krankenhäuser zur Übermittlung von Falldaten an das Institut für das Entgeltsystem im Krankenhaus (InEK). Diese Daten — Diagnosen, Prozeduren, Verweildauer, Beatmungsstunden — sind die Grundlage, auf der die meisten KI-Anbieter ihre Modelle trainieren oder zumindest validieren.

Was dabei systematisch fehlt: Soziale Determinanten. Wohnverhältnisse. Pflegearrangements. Kognitive Einschränkungen, die nicht als Diagnose kodiert sind. Entlassungsbarrieren, die erfahrene Stationspflegekräfte kennen und KI-Systeme nicht kennen können — weil diese Information in keinem strukturierten Datenfeld existiert.

„Das Modell optimiert auf das, was gemessen wird. Was nicht gemessen wird, existiert für das Modell nicht — und genau das wird zur Patientengefährdung.“
EU AI Act: Was gilt für KI im Entlassmanagement?

KI-Systeme, die zur Unterstützung klinischer Entscheidungen im stationären Bereich eingesetzt werden, fallen unter Anhang III Nr. 5 lit. a EU AI Act (Hochrisiko-KI im Gesundheitswesen), sofern sie als Medizinprodukt einzustufen sind.

Die entscheidende Frage ist die MDR-Klassifizierung: Systeme, die lediglich Daten aggregieren und eine Entlassungsempfehlung ausgeben, ohne eine Diagnose zu stellen, bewegen sich in einer regulatorischen Grauzone zwischen Klasse I (keine klinische Wirksamkeit) und Klasse IIa.

Hersteller wie MyScribe oder Amboss positionieren sich unterschiedlich — mit erheblichen Konsequenzen für das beschaffende Krankenhaus.

Hinzu kommt ein weiteres Problem, das in der Öffentlichkeit kaum diskutiert wird: die Frage der algorithmischen Verantwortung. Nach Art. 9 EU AI Act ist das Krankenhaus als Betreiber — nicht der Hersteller — verantwortlich für ein angemessenes Risikomanagementsystem. Das bedeutet in der Praxis: Das Krankenhaus muss nachweisen können, dass es das KI-System überwacht, dass es Abweichungen dokumentiert und dass es menschliche Aufsicht sicherstellt.