Diese Seite gibt eine fachliche Orientierung und ersetzt keine Rechtsberatung. Stimmen Sie Rechtsgrundlage, Datenschutz-Folgenabschätzung und die Einordnung nach MDR und AI Act immer mit Ihrem Datenschutzbeauftragten und, wo nötig, mit Ihrer Regulatory-Abteilung ab.
Mit KI lassen sich Auswertungen, Berichte und kleine Anwendungen heute in Tagen statt Monaten bauen. In Kliniken, Reha-Einrichtungen und Forschungsgruppen passiert das längst: Ein Sprachmodell fasst Verläufe zusammen, ein Team baut sich eine Übersicht für die Fallbesprechung, eine Arbeitsgruppe sucht Muster in Längsschnittdaten. Die Frage ist selten, ob das technisch funktioniert. Die Frage ist, ob es mit Gesundheitsdaten rechtssicher läuft. Dieser Ratgeber zeigt, was dafür zu klären ist, welche Architektur sich bewährt und woran Sie vor dem Start denken sollten.
Warum KI mit Gesundheitsdaten besondere Regeln hat
Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich verboten, es sei denn, eine Ausnahme nach Art. 9 Abs. 2 greift. Für KI-Anwendungen kommen drei Besonderheiten hinzu:
- Neue Zwecke: Eine KI-Auswertung ist oft ein anderer Zweck als die Behandlung, für die die Daten erhoben wurden. Zweckbindung und Rechtsgrundlage müssen neu geprüft werden.
- Neue Empfänger: Viele KI-Dienste laufen in der Cloud eines Anbieters, häufig außerhalb der EU. Jede Eingabe ist dann eine Übermittlung.
- Neue Regeln: Mit dem AI Act (Verordnung (EU) 2024/1689) gelten zusätzlich Pflichten für Anbieter und Betreiber von KI-Systemen, besonders im Gesundheitsbereich.
Die Datenschutzkonferenz hat dazu im Mai 2024 eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie ist ein guter Ausgangspunkt für das Gespräch mit Ihrem Datenschutzbeauftragten.
Rechtsgrundlage: Behandlung, Einwilligung, Forschung
Welche Grundlage trägt, hängt davon ab, wofür die KI eingesetzt wird.
| Einsatz der KI | Typische Rechtsgrundlage | Worauf Sie achten sollten |
|---|---|---|
| Unterstützung in der laufenden Behandlung, z. B. Verlaufszusammenfassung für die Fachperson | Art. 9 Abs. 2 lit. h DSGVO mit nationalem Recht | Zweck eng fassen, Schweigepflicht, Entscheidung bleibt bei der Fachperson |
| Zusätzliche Auswertungen, die über die Behandlung hinausgehen | Art. 9 Abs. 2 lit. a (ausdrückliche Einwilligung) | Einwilligung für genau diesen Zweck, Widerruf muss in der Anwendung ankommen |
| Qualitätssicherung und Forschung mit eigenen Versorgungsdaten | in Deutschland § 6 GDNG, sonst lit. j mit Garantien nach Art. 89 | Pseudonymisierung, Schutzmaßnahmen, Veröffentlichung nur anonymisiert |
| Studien | Einwilligung nach Studienaufklärung oder lit. j | Studienprotokoll, Ethikvotum, Datenmanagementplan |
| Training eines eigenen Modells | eigene Grundlage für das Training, unabhängig von der Behandlung | Zweck dokumentieren, Datenminimierung, Löschung und Versionierung der Trainingsdaten |
Ein häufiger Fehler: Die Daten wurden für die Behandlung erhoben, die KI-Auswertung läuft aber für Qualitätsberichte oder ein Forschungsvorhaben. Dann deckt die ursprüngliche Grundlage den neuen Zweck nicht. Klären Sie das, bevor die Anwendung läuft.
Entscheidet ein System ohne menschliche Prüfung über eine Person, greift zusätzlich Art. 22 DSGVO. In der Medizin sollte deshalb immer gelten: Die Anwendung zeigt, die Fachperson entscheidet.
Wo die Daten hinfließen: Cloud-KI, eigenes Sprachmodell, Fundament
Die zweite Frage ist der Weg der Daten. Drei Architekturen kommen in der Praxis vor.
| Öffentlicher KI-Dienst | KI-Dienst mit Vertrag in der EU oder eigenes Sprachmodell | KI über ein Datenfundament | |
|---|---|---|---|
| Wo die Gesundheitsdaten verarbeitet werden | beim Anbieter, oft außerhalb der EU | beim Vertragspartner in der EU oder in Ihrer eigenen Infrastruktur | im Fundament, die KI erhält nur freigegebene Ausschnitte |
| Vertrag zur Auftragsverarbeitung | bei Consumer-Konten meist nicht vorhanden | ja | ja, für Fundament und KI-Dienst |
| Rollen und Rechte | gelten nicht, alles Eingegebene ist sichtbar | müssen in der Anwendung selbst gebaut werden | gelten für jede KI-Verbindung wie für jeden anderen Zugriff |
| Einwilligung und Widerruf | nicht berücksichtigt | müssen in der Anwendung selbst gebaut werden | werden vom Fundament durchgesetzt |
| Protokollierung | beim Anbieter, für Sie nicht prüfbar | muss gebaut werden | jeder Zugriff im Audit Trail |
| Geeignet für | Ideen, Texte, Code ohne echte Patientendaten | Organisationen mit eigener KI-Infrastruktur | Kliniken, Reha, Forschung, die schnell und sicher starten wollen |
Ein öffentlicher KI-Dienst ist für Gesundheitsdaten meist keine Option. Wer Patientendaten eingibt, übermittelt sie an einen Dritten. Dafür braucht es eine Rechtsgrundlage, einen Vertrag nach Art. 28 DSGVO, eine Grundlage für eine Drittlandübermittlung nach Art. 44 ff. DSGVO und bei Ärztinnen, Therapeuten und anderen Berufsgeheimnisträgern eine Lösung für die Schweigepflicht nach § 203 StGB.
Ein bewährter Weg ist, beides zu trennen: Die KI hilft beim Bauen, sieht aber die Rohdaten nicht. Sie entwirft eine Auswertung, ein Dashboard oder eine Abfrage. Die eigentliche Berechnung läuft danach in der geschützten Umgebung, nachvollziehbar und wiederholbar.
Datenfundament statt Direktzugriff
Viele selbst gebaute Anwendungen greifen direkt auf eine Datenbank oder einen Export zu. Dabei gehen die Regeln verloren, die im Quellsystem gelten: Eine Auswertung sieht plötzlich Daten, die die Person, die sie nutzt, nie sehen dürfte, und ein Widerruf kommt nicht an.
Besser ist eine Aufteilung in zwei Schichten:
- Das Fundament übernimmt die dauerhaften Pflichten: Geräte und Systeme anbinden, Daten mit ihrer Herkunft speichern, Einwilligungen verwalten, Rollen und Rechte durchsetzen, Zugriffe protokollieren.
- Die Anwendung baut darauf auf: Auswertung, Dashboard, Sprachassistent oder eigenes Modell. Sie greift nur über eine definierte Schnittstelle zu und erbt dabei alle Regeln des Fundaments.
So bleibt die Freiheit beim Bauen, und die Pflichten liegen dort, wo sie dauerhaft erfüllt werden.
Genau diese Rolle übernimmt der Datico® Life Hub. Er verbindet Geräte, Wearables und Kliniksysteme, speichert jeden Wert mit Gerät, Zeitpunkt und Messart, verwaltet Einwilligungen per Double Opt-In, setzt Rollen und Rechte durch und protokolliert jeden Zugriff im Audit Trail. Gehostet wird in einer eigenen Datenbank je Kunde auf Servern in Deutschland oder auf Wunsch in Ihrer eigenen Infrastruktur.
KI-Anwendungen greifen über den MCP Server und die Smart API auf die Daten zu. Jede KI-Verbindung hat eigene Zugangsdaten, die an ein Rechteprofil gebunden sind. Darin legen Sie fest, welche Personen, Gruppen, Parameter und Zeiträume abgefragt werden dürfen. Der Zugriff ist lesend, verschlüsselt und protokolliert. Welches Sprachmodell Sie verwenden, entscheiden Sie selbst, auch ein eigenes in Ihrer Infrastruktur.
Pseudonymisieren, anonymisieren, minimieren
Für KI-Auswertungen gilt besonders der Grundsatz der Datenminimierung: Die Anwendung bekommt nur, was sie für ihren Zweck braucht.
- Pseudonymisieren: Name und Identität werden durch eine Kennung ersetzt, der Schlüssel liegt getrennt bei berechtigten Personen. Die Daten bleiben personenbezogen, das Risiko sinkt aber deutlich. Für Verlaufsauswertungen und Forschung ist das meist der richtige Weg.
- Anonymisieren: Erst wenn eine Person auch mit vertretbarem Aufwand nicht mehr bestimmbar ist, gilt die DSGVO nicht mehr. Bei detaillierten Zeitreihen aus Wearables und Geräten ist echte Anonymität schwer zu erreichen, weil Verläufe selbst identifizierend sein können.
- Aggregieren: Für Berichte und Steuerung reichen oft Gruppenwerte oder Scores. Einzelwerte bleiben bei den Fachleuten, die die Person betreuen.
Im Datico® Life Hub lassen sich Studiendaten nach Studienprotokoll pseudonymisiert führen. Über das Rechteprofil einer KI-Verbindung steuern Sie, ob sie Einzelwerte, Scores oder nur aggregierte Daten erhält.
AI Act und Medizinprodukt: Wann es streng wird
Ob eine KI-Anwendung zusätzlich unter Produktrecht fällt, entscheidet ihre Zweckbestimmung.
- Medizinprodukt nach MDR: Software, die für Diagnose, Überwachung oder Therapieentscheidungen bei einzelnen Patienten bestimmt ist, kann ein Medizinprodukt sein. Reine Dokumentation, Darstellung und Verwaltung sind anders zu bewerten.
- Hochrisiko-KI nach AI Act: Ist die Software ein Medizinprodukt, das eine Benannte Stelle prüfen muss, gilt das KI-System nach Art. 6 Abs. 1 AI Act als Hochrisiko-System. Dann kommen Pflichten zu Risikomanagement, Datenqualität, Dokumentation, Protokollierung und menschlicher Aufsicht hinzu.
- KI-Kompetenz: Unabhängig davon müssen Organisationen, die KI einsetzen, seit Februar 2025 dafür sorgen, dass ihre Mitarbeitenden ausreichend geschult sind (Art. 4 AI Act).
Die Pflichten für Hochrisiko-Systeme, die zugleich Medizinprodukte sind, gelten nach dem Text der Verordnung ab dem 2. August 2027. Die EU hat Ende 2025 vorgeschlagen, Fristen für Hochrisiko-Systeme anzupassen. Prüfen Sie den aktuellen Stand vor Projektstart.
Eine einfache Regel für die Praxis: Die Anwendung zeigt, die Fachperson entscheidet. Datico® ist entsprechend als datengestützte Entscheidungsunterstützung gebaut. Auch der Datico® Expert Assistant bereitet nächste Schritte nur zur Freigabe vor und führt nichts automatisch aus.
Datenqualität: KI ist nur so gut wie ihre Daten
Werte aus verschiedenen Geräten haben unterschiedliche Formate, Einheiten und Messmethoden. Ruhepuls aus einer Sportuhr ist etwas anderes als Ruhepuls aus einem EKG. Eine KI, die das nicht weiß, zieht falsche Schlüsse. Drei Punkte entscheiden über die Qualität:
- Herkunft: Bei jedem Wert ist erkennbar, von welchem Gerät er stammt, wann und wie er gemessen wurde.
- Einheitliche Begriffe: Gleiche Messgrößen haben denselben Namen und dieselbe Einheit, auch wenn sie aus verschiedenen Geräten kommen. Welche Standards Datico® dafür nutzt, steht auf der Seite Standards.
- Verlauf statt Momentaufnahme: Viele Fragen lassen sich erst im Längsschnitt beantworten. Dafür müssen Daten über Monate personen- und zeitgenau zusammenkommen.
Wie Geräte und Systeme angebunden werden, beschreibt der Ratgeber Medizingeräte anbinden. Für Wearable-Daten gilt zusätzlich der Ratgeber Wearables DSGVO-konform einsetzen.
Checkliste: KI mit Gesundheitsdaten einführen
Diese Punkte sollten vor dem Start geklärt und dokumentiert sein.
- Zweck festlegen: Was soll die KI-Anwendung leisten, und welche Daten braucht sie dafür wirklich?
- Rechtsgrundlage prüfen: Art. 6 und Art. 9 Abs. 2 DSGVO für genau diesen Zweck, bei Forschung und Qualitätssicherung auch § 6 GDNG.
- Einordnung klären: Ist die Anwendung ein Medizinprodukt oder ein Hochrisiko-KI-System? Zweckbestimmung schriftlich festhalten.
- Architektur wählen: Wo läuft das Sprachmodell, wer sieht welche Daten? Keine Gesundheitsdaten an Dienste ohne Vertrag und geprüfte Drittlandgrundlage.
- Verträge schließen: Auftragsverarbeitung nach Art. 28 DSGVO mit Plattform, Hosting und KI-Dienst; Schweigepflicht nach § 203 StGB berücksichtigen.
- Datenschutz-Folgenabschätzung durchführen: Bei KI mit Gesundheitsdaten ist sie in aller Regel nötig (Art. 35 DSGVO).
- Daten minimieren: pseudonymisieren, wo der Personenbezug nicht nötig ist; Einzelwerte nur für die betreuende Fachperson.
- Rechte durchsetzen: Rollen und Rechte gelten auch für jede KI-Verbindung.
- Einwilligungen anbinden: Widerrufe müssen in der KI-Anwendung ankommen.
- Protokollieren: Jeder Zugriff und jede Modellversion ist nachvollziehbar.
- Menschliche Entscheidung sichern: Ergebnisse sind Vorschläge, die Entscheidung trifft die Fachperson.
- Mitarbeitende schulen: KI-Kompetenz nach Art. 4 AI Act aufbauen und dokumentieren.
Wenn Sie prüfen möchten, wie Ihre eigene Anwendung auf dem Datico® Life Hub laufen kann, sprechen Sie mit uns in einem persönlichen Erstgespräch.
Häufige Fragen
Darf ich Patientendaten in ChatGPT oder einen anderen Cloud-KI-Dienst eingeben?
Nur mit geprüfter Grundlage. Personenbezogene Gesundheitsdaten in einen öffentlichen KI-Dienst einzugeben, ist eine Übermittlung an einen Dritten, oft außerhalb der EU. Dafür brauchen Sie eine Rechtsgrundlage nach Art. 9 DSGVO, einen Vertrag zur Auftragsverarbeitung, eine Grundlage für die Drittlandübermittlung und bei Berufsgeheimnisträgern eine Lösung für die Schweigepflicht. Für Consumer-Konten ohne solche Verträge ist das in der Regel nicht erfüllt. Unkritisch ist es, wenn die KI nur beim Bauen hilft und keine echten Patientendaten sieht.
Sind pseudonymisierte Gesundheitsdaten für KI unproblematisch?
Nein. Pseudonymisierte Daten bleiben personenbezogene Daten, die DSGVO gilt weiter. Pseudonymisierung senkt aber das Risiko deutlich und ist für Auswertungen und Forschung meist das Mittel der Wahl. Anonym sind Daten erst, wenn eine Person auch mit vertretbarem Aufwand nicht mehr bestimmbar ist. Bei detaillierten Verlaufsdaten aus Wearables und Geräten ist das schwer zu erreichen.
Ist meine KI-Anwendung ein Medizinprodukt?
Das hängt von der Zweckbestimmung ab. Software, die für Diagnose, Überwachung oder Therapieentscheidungen bei einzelnen Patienten bestimmt ist, kann ein Medizinprodukt nach der MDR sein. Reine Dokumentation, Darstellung und Verwaltung sind anders zu bewerten. Ist die Software ein Medizinprodukt, das eine Benannte Stelle prüfen muss, gilt sie nach dem AI Act zusätzlich als Hochrisiko-KI-System.
Was verlangt der AI Act von Kliniken, die KI nur einsetzen?
Auch Betreiber haben Pflichten. Seit Februar 2025 müssen Organisationen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen (Art. 4 AI Act). Bei Hochrisiko-KI-Systemen kommen Pflichten zu bestimmungsgemäßer Nutzung, menschlicher Aufsicht, Überwachung und Aufbewahrung der Protokolle hinzu. Für Systeme, die zugleich Medizinprodukte sind, gelten diese Pflichten nach heutigem Stand ab August 2027.
Dürfen wir unsere Behandlungsdaten nutzen, um ein eigenes KI-Modell zu trainieren?
Das Training ist ein eigener Zweck und braucht eine eigene Rechtsgrundlage, etwa eine Einwilligung oder eine gesetzliche Grundlage für Forschung und Qualitätssicherung. In Deutschland erlaubt § 6 Gesundheitsdatennutzungsgesetz Einrichtungen unter Bedingungen, eigene Versorgungsdaten für Qualitätssicherung, Patientensicherheit und Forschung weiterzuverarbeiten. Klären Sie die Grundlage vor dem Training, nicht danach.
Wie greift eine KI-Anwendung auf die Daten im Datico® Life Hub zu?
Über den MCP Server und die Smart API. Jede KI-Verbindung hat eigene Zugangsdaten, die an ein Rechteprofil gebunden sind. Darin legen Sie fest, welche Personen, Gruppen, Parameter und Zeiträume abgefragt werden dürfen. Der Zugriff ist lesend, verschlüsselt und im Audit Trail protokolliert. Welches Sprachmodell Sie nutzen, entscheiden Sie selbst.
Passende Funktionen
- Audit TrailSie können jeden Messwert samt Kontext und jede Aktion im System auch Jahre später lückenlos nachvollziehen.
- Double Opt-InSie verarbeiten Daten erst, wenn die betroffene Person in zwei Schritten nachweisbar eingewilligt hat.
- Expert AssistantSie fragen in natürlicher Sprache nach Zuständen, Trends und Treibern und erhalten nachvollziehbare Erklärungen und vorbereitete nächste Schritte.
- MCP ServerSie geben KI-Anwendungen kontrollierten Zugriff auf genau die Daten, für die sie berechtigt sind.
- Rollen & RechteSie legen fest, wer welche Funktion nutzen und welche Daten sehen darf – bis auf Funktions- und Attributebene.
- Smart APISie lesen Daten über eine dokumentierte REST-Schnittstelle in den Datico® Life Hub ein und stellen sie berechtigten Systemen bereit.