Ratgeber · Stand 20. November 2026

KI und Gesundheitsdaten: eigene KI-Anwendungen datenschutzkonform aufbauen

Gesundheitsdaten dürfen in KI-Anwendungen genutzt werden, wenn vier Dinge geklärt sind: die Rechtsgrundlage für genau diesen Zweck, der Weg der Daten bis zum KI-Modell, die Frage, ob die Anwendung ein Medizinprodukt oder ein Hochrisiko-KI-System ist, und die Nachvollziehbarkeit jedes Zugriffs. Am sichersten ist eine Aufteilung: Ein geprüftes Datenfundament setzt Einwilligungen, Rechte und Protokollierung durch, die KI-Anwendung greift nur über diese Schicht auf die Daten zu.

Diese Seite gibt eine fachliche Orientierung und ersetzt keine Rechtsberatung. Stimmen Sie Rechtsgrundlage, Datenschutz-Folgenabschätzung und die Einordnung nach MDR und AI Act immer mit Ihrem Datenschutzbeauftragten und, wo nötig, mit Ihrer Regulatory-Abteilung ab.

Mit KI lassen sich Auswertungen, Berichte und kleine Anwendungen heute in Tagen statt Monaten bauen. In Kliniken, Reha-Einrichtungen und Forschungsgruppen passiert das längst: Ein Sprachmodell fasst Verläufe zusammen, ein Team baut sich eine Übersicht für die Fallbesprechung, eine Arbeitsgruppe sucht Muster in Längsschnittdaten. Die Frage ist selten, ob das technisch funktioniert. Die Frage ist, ob es mit Gesundheitsdaten rechtssicher läuft. Dieser Ratgeber zeigt, was dafür zu klären ist, welche Architektur sich bewährt und woran Sie vor dem Start denken sollten.

Warum KI mit Gesundheitsdaten besondere Regeln hat

Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich verboten, es sei denn, eine Ausnahme nach Art. 9 Abs. 2 greift. Für KI-Anwendungen kommen drei Besonderheiten hinzu:

  • Neue Zwecke: Eine KI-Auswertung ist oft ein anderer Zweck als die Behandlung, für die die Daten erhoben wurden. Zweckbindung und Rechtsgrundlage müssen neu geprüft werden.
  • Neue Empfänger: Viele KI-Dienste laufen in der Cloud eines Anbieters, häufig außerhalb der EU. Jede Eingabe ist dann eine Übermittlung.
  • Neue Regeln: Mit dem AI Act (Verordnung (EU) 2024/1689) gelten zusätzlich Pflichten für Anbieter und Betreiber von KI-Systemen, besonders im Gesundheitsbereich.

Die Datenschutzkonferenz hat dazu im Mai 2024 eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie ist ein guter Ausgangspunkt für das Gespräch mit Ihrem Datenschutzbeauftragten.

Rechtsgrundlage: Behandlung, Einwilligung, Forschung

Welche Grundlage trägt, hängt davon ab, wofür die KI eingesetzt wird.

Einsatz der KITypische RechtsgrundlageWorauf Sie achten sollten
Unterstützung in der laufenden Behandlung, z. B. Verlaufszusammenfassung für die FachpersonArt. 9 Abs. 2 lit. h DSGVO mit nationalem RechtZweck eng fassen, Schweigepflicht, Entscheidung bleibt bei der Fachperson
Zusätzliche Auswertungen, die über die Behandlung hinausgehenArt. 9 Abs. 2 lit. a (ausdrückliche Einwilligung)Einwilligung für genau diesen Zweck, Widerruf muss in der Anwendung ankommen
Qualitätssicherung und Forschung mit eigenen Versorgungsdatenin Deutschland § 6 GDNG, sonst lit. j mit Garantien nach Art. 89Pseudonymisierung, Schutzmaßnahmen, Veröffentlichung nur anonymisiert
StudienEinwilligung nach Studienaufklärung oder lit. jStudienprotokoll, Ethikvotum, Datenmanagementplan
Training eines eigenen Modellseigene Grundlage für das Training, unabhängig von der BehandlungZweck dokumentieren, Datenminimierung, Löschung und Versionierung der Trainingsdaten

Ein häufiger Fehler: Die Daten wurden für die Behandlung erhoben, die KI-Auswertung läuft aber für Qualitätsberichte oder ein Forschungsvorhaben. Dann deckt die ursprüngliche Grundlage den neuen Zweck nicht. Klären Sie das, bevor die Anwendung läuft.

Entscheidet ein System ohne menschliche Prüfung über eine Person, greift zusätzlich Art. 22 DSGVO. In der Medizin sollte deshalb immer gelten: Die Anwendung zeigt, die Fachperson entscheidet.

Wo die Daten hinfließen: Cloud-KI, eigenes Sprachmodell, Fundament

Die zweite Frage ist der Weg der Daten. Drei Architekturen kommen in der Praxis vor.

Öffentlicher KI-DienstKI-Dienst mit Vertrag in der EU oder eigenes SprachmodellKI über ein Datenfundament
Wo die Gesundheitsdaten verarbeitet werdenbeim Anbieter, oft außerhalb der EUbeim Vertragspartner in der EU oder in Ihrer eigenen Infrastrukturim Fundament, die KI erhält nur freigegebene Ausschnitte
Vertrag zur Auftragsverarbeitungbei Consumer-Konten meist nicht vorhandenjaja, für Fundament und KI-Dienst
Rollen und Rechtegelten nicht, alles Eingegebene ist sichtbarmüssen in der Anwendung selbst gebaut werdengelten für jede KI-Verbindung wie für jeden anderen Zugriff
Einwilligung und Widerrufnicht berücksichtigtmüssen in der Anwendung selbst gebaut werdenwerden vom Fundament durchgesetzt
Protokollierungbeim Anbieter, für Sie nicht prüfbarmuss gebaut werdenjeder Zugriff im Audit Trail
Geeignet fürIdeen, Texte, Code ohne echte PatientendatenOrganisationen mit eigener KI-InfrastrukturKliniken, Reha, Forschung, die schnell und sicher starten wollen

Ein öffentlicher KI-Dienst ist für Gesundheitsdaten meist keine Option. Wer Patientendaten eingibt, übermittelt sie an einen Dritten. Dafür braucht es eine Rechtsgrundlage, einen Vertrag nach Art. 28 DSGVO, eine Grundlage für eine Drittlandübermittlung nach Art. 44 ff. DSGVO und bei Ärztinnen, Therapeuten und anderen Berufsgeheimnisträgern eine Lösung für die Schweigepflicht nach § 203 StGB.

Ein bewährter Weg ist, beides zu trennen: Die KI hilft beim Bauen, sieht aber die Rohdaten nicht. Sie entwirft eine Auswertung, ein Dashboard oder eine Abfrage. Die eigentliche Berechnung läuft danach in der geschützten Umgebung, nachvollziehbar und wiederholbar.

Datenfundament statt Direktzugriff

Viele selbst gebaute Anwendungen greifen direkt auf eine Datenbank oder einen Export zu. Dabei gehen die Regeln verloren, die im Quellsystem gelten: Eine Auswertung sieht plötzlich Daten, die die Person, die sie nutzt, nie sehen dürfte, und ein Widerruf kommt nicht an.

Besser ist eine Aufteilung in zwei Schichten:

  1. Das Fundament übernimmt die dauerhaften Pflichten: Geräte und Systeme anbinden, Daten mit ihrer Herkunft speichern, Einwilligungen verwalten, Rollen und Rechte durchsetzen, Zugriffe protokollieren.
  2. Die Anwendung baut darauf auf: Auswertung, Dashboard, Sprachassistent oder eigenes Modell. Sie greift nur über eine definierte Schnittstelle zu und erbt dabei alle Regeln des Fundaments.

So bleibt die Freiheit beim Bauen, und die Pflichten liegen dort, wo sie dauerhaft erfüllt werden.

Genau diese Rolle übernimmt der Datico® Life Hub. Er verbindet Geräte, Wearables und Kliniksysteme, speichert jeden Wert mit Gerät, Zeitpunkt und Messart, verwaltet Einwilligungen per Double Opt-In, setzt Rollen und Rechte durch und protokolliert jeden Zugriff im Audit Trail. Gehostet wird in einer eigenen Datenbank je Kunde auf Servern in Deutschland oder auf Wunsch in Ihrer eigenen Infrastruktur.

KI-Anwendungen greifen über den MCP Server und die Smart API auf die Daten zu. Jede KI-Verbindung hat eigene Zugangsdaten, die an ein Rechteprofil gebunden sind. Darin legen Sie fest, welche Personen, Gruppen, Parameter und Zeiträume abgefragt werden dürfen. Der Zugriff ist lesend, verschlüsselt und protokolliert. Welches Sprachmodell Sie verwenden, entscheiden Sie selbst, auch ein eigenes in Ihrer Infrastruktur.

Pseudonymisieren, anonymisieren, minimieren

Für KI-Auswertungen gilt besonders der Grundsatz der Datenminimierung: Die Anwendung bekommt nur, was sie für ihren Zweck braucht.

  • Pseudonymisieren: Name und Identität werden durch eine Kennung ersetzt, der Schlüssel liegt getrennt bei berechtigten Personen. Die Daten bleiben personenbezogen, das Risiko sinkt aber deutlich. Für Verlaufsauswertungen und Forschung ist das meist der richtige Weg.
  • Anonymisieren: Erst wenn eine Person auch mit vertretbarem Aufwand nicht mehr bestimmbar ist, gilt die DSGVO nicht mehr. Bei detaillierten Zeitreihen aus Wearables und Geräten ist echte Anonymität schwer zu erreichen, weil Verläufe selbst identifizierend sein können.
  • Aggregieren: Für Berichte und Steuerung reichen oft Gruppenwerte oder Scores. Einzelwerte bleiben bei den Fachleuten, die die Person betreuen.

Im Datico® Life Hub lassen sich Studiendaten nach Studienprotokoll pseudonymisiert führen. Über das Rechteprofil einer KI-Verbindung steuern Sie, ob sie Einzelwerte, Scores oder nur aggregierte Daten erhält.

AI Act und Medizinprodukt: Wann es streng wird

Ob eine KI-Anwendung zusätzlich unter Produktrecht fällt, entscheidet ihre Zweckbestimmung.

  • Medizinprodukt nach MDR: Software, die für Diagnose, Überwachung oder Therapieentscheidungen bei einzelnen Patienten bestimmt ist, kann ein Medizinprodukt sein. Reine Dokumentation, Darstellung und Verwaltung sind anders zu bewerten.
  • Hochrisiko-KI nach AI Act: Ist die Software ein Medizinprodukt, das eine Benannte Stelle prüfen muss, gilt das KI-System nach Art. 6 Abs. 1 AI Act als Hochrisiko-System. Dann kommen Pflichten zu Risikomanagement, Datenqualität, Dokumentation, Protokollierung und menschlicher Aufsicht hinzu.
  • KI-Kompetenz: Unabhängig davon müssen Organisationen, die KI einsetzen, seit Februar 2025 dafür sorgen, dass ihre Mitarbeitenden ausreichend geschult sind (Art. 4 AI Act).

Die Pflichten für Hochrisiko-Systeme, die zugleich Medizinprodukte sind, gelten nach dem Text der Verordnung ab dem 2. August 2027. Die EU hat Ende 2025 vorgeschlagen, Fristen für Hochrisiko-Systeme anzupassen. Prüfen Sie den aktuellen Stand vor Projektstart.

Eine einfache Regel für die Praxis: Die Anwendung zeigt, die Fachperson entscheidet. Datico® ist entsprechend als datengestützte Entscheidungsunterstützung gebaut. Auch der Datico® Expert Assistant bereitet nächste Schritte nur zur Freigabe vor und führt nichts automatisch aus.

Datenqualität: KI ist nur so gut wie ihre Daten

Werte aus verschiedenen Geräten haben unterschiedliche Formate, Einheiten und Messmethoden. Ruhepuls aus einer Sportuhr ist etwas anderes als Ruhepuls aus einem EKG. Eine KI, die das nicht weiß, zieht falsche Schlüsse. Drei Punkte entscheiden über die Qualität:

  • Herkunft: Bei jedem Wert ist erkennbar, von welchem Gerät er stammt, wann und wie er gemessen wurde.
  • Einheitliche Begriffe: Gleiche Messgrößen haben denselben Namen und dieselbe Einheit, auch wenn sie aus verschiedenen Geräten kommen. Welche Standards Datico® dafür nutzt, steht auf der Seite Standards.
  • Verlauf statt Momentaufnahme: Viele Fragen lassen sich erst im Längsschnitt beantworten. Dafür müssen Daten über Monate personen- und zeitgenau zusammenkommen.

Wie Geräte und Systeme angebunden werden, beschreibt der Ratgeber Medizingeräte anbinden. Für Wearable-Daten gilt zusätzlich der Ratgeber Wearables DSGVO-konform einsetzen.

Checkliste: KI mit Gesundheitsdaten einführen

Diese Punkte sollten vor dem Start geklärt und dokumentiert sein.

  1. Zweck festlegen: Was soll die KI-Anwendung leisten, und welche Daten braucht sie dafür wirklich?
  2. Rechtsgrundlage prüfen: Art. 6 und Art. 9 Abs. 2 DSGVO für genau diesen Zweck, bei Forschung und Qualitätssicherung auch § 6 GDNG.
  3. Einordnung klären: Ist die Anwendung ein Medizinprodukt oder ein Hochrisiko-KI-System? Zweckbestimmung schriftlich festhalten.
  4. Architektur wählen: Wo läuft das Sprachmodell, wer sieht welche Daten? Keine Gesundheitsdaten an Dienste ohne Vertrag und geprüfte Drittlandgrundlage.
  5. Verträge schließen: Auftragsverarbeitung nach Art. 28 DSGVO mit Plattform, Hosting und KI-Dienst; Schweigepflicht nach § 203 StGB berücksichtigen.
  6. Datenschutz-Folgenabschätzung durchführen: Bei KI mit Gesundheitsdaten ist sie in aller Regel nötig (Art. 35 DSGVO).
  7. Daten minimieren: pseudonymisieren, wo der Personenbezug nicht nötig ist; Einzelwerte nur für die betreuende Fachperson.
  8. Rechte durchsetzen: Rollen und Rechte gelten auch für jede KI-Verbindung.
  9. Einwilligungen anbinden: Widerrufe müssen in der KI-Anwendung ankommen.
  10. Protokollieren: Jeder Zugriff und jede Modellversion ist nachvollziehbar.
  11. Menschliche Entscheidung sichern: Ergebnisse sind Vorschläge, die Entscheidung trifft die Fachperson.
  12. Mitarbeitende schulen: KI-Kompetenz nach Art. 4 AI Act aufbauen und dokumentieren.

Wenn Sie prüfen möchten, wie Ihre eigene Anwendung auf dem Datico® Life Hub laufen kann, sprechen Sie mit uns in einem persönlichen Erstgespräch.

Häufige Fragen

Darf ich Patientendaten in ChatGPT oder einen anderen Cloud-KI-Dienst eingeben?

Nur mit geprüfter Grundlage. Personenbezogene Gesundheitsdaten in einen öffentlichen KI-Dienst einzugeben, ist eine Übermittlung an einen Dritten, oft außerhalb der EU. Dafür brauchen Sie eine Rechtsgrundlage nach Art. 9 DSGVO, einen Vertrag zur Auftragsverarbeitung, eine Grundlage für die Drittlandübermittlung und bei Berufsgeheimnisträgern eine Lösung für die Schweigepflicht. Für Consumer-Konten ohne solche Verträge ist das in der Regel nicht erfüllt. Unkritisch ist es, wenn die KI nur beim Bauen hilft und keine echten Patientendaten sieht.

Sind pseudonymisierte Gesundheitsdaten für KI unproblematisch?

Nein. Pseudonymisierte Daten bleiben personenbezogene Daten, die DSGVO gilt weiter. Pseudonymisierung senkt aber das Risiko deutlich und ist für Auswertungen und Forschung meist das Mittel der Wahl. Anonym sind Daten erst, wenn eine Person auch mit vertretbarem Aufwand nicht mehr bestimmbar ist. Bei detaillierten Verlaufsdaten aus Wearables und Geräten ist das schwer zu erreichen.

Ist meine KI-Anwendung ein Medizinprodukt?

Das hängt von der Zweckbestimmung ab. Software, die für Diagnose, Überwachung oder Therapieentscheidungen bei einzelnen Patienten bestimmt ist, kann ein Medizinprodukt nach der MDR sein. Reine Dokumentation, Darstellung und Verwaltung sind anders zu bewerten. Ist die Software ein Medizinprodukt, das eine Benannte Stelle prüfen muss, gilt sie nach dem AI Act zusätzlich als Hochrisiko-KI-System.

Was verlangt der AI Act von Kliniken, die KI nur einsetzen?

Auch Betreiber haben Pflichten. Seit Februar 2025 müssen Organisationen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen (Art. 4 AI Act). Bei Hochrisiko-KI-Systemen kommen Pflichten zu bestimmungsgemäßer Nutzung, menschlicher Aufsicht, Überwachung und Aufbewahrung der Protokolle hinzu. Für Systeme, die zugleich Medizinprodukte sind, gelten diese Pflichten nach heutigem Stand ab August 2027.

Dürfen wir unsere Behandlungsdaten nutzen, um ein eigenes KI-Modell zu trainieren?

Das Training ist ein eigener Zweck und braucht eine eigene Rechtsgrundlage, etwa eine Einwilligung oder eine gesetzliche Grundlage für Forschung und Qualitätssicherung. In Deutschland erlaubt § 6 Gesundheitsdatennutzungsgesetz Einrichtungen unter Bedingungen, eigene Versorgungsdaten für Qualitätssicherung, Patientensicherheit und Forschung weiterzuverarbeiten. Klären Sie die Grundlage vor dem Training, nicht danach.

Wie greift eine KI-Anwendung auf die Daten im Datico® Life Hub zu?

Über den MCP Server und die Smart API. Jede KI-Verbindung hat eigene Zugangsdaten, die an ein Rechteprofil gebunden sind. Darin legen Sie fest, welche Personen, Gruppen, Parameter und Zeiträume abgefragt werden dürfen. Der Zugriff ist lesend, verschlüsselt und im Audit Trail protokolliert. Welches Sprachmodell Sie nutzen, entscheiden Sie selbst.

Passende Funktionen

Markus Stadler, Geschäftsführer
Markus Stadler Geschäftsführer, Datico®

Sprechen wir über Ihr Vorhaben.

„In 30 Minuten klären wir, was Sie erreichen wollen und welche Ihrer Geräte wir anbinden. Persönlich und ohne Vertriebsschleife.“

+49 8677 76794-0 info@datico.com