Esta página ofrece una orientación técnica y no sustituye el asesoramiento jurídico. Acuerde siempre la base jurídica, la evaluación de impacto relativa a la protección de datos y la clasificación según el MDR y el Reglamento de IA con su delegado de protección de datos (DPD) y, cuando sea necesario, con su departamento de asuntos regulatorios.
Con la IA, hoy es posible crear análisis, informes y pequeñas aplicaciones en días en lugar de meses. En clínicas, centros de rehabilitación y grupos de investigación esto ya es una realidad: un modelo de lenguaje resume evoluciones, un equipo se construye una vista general para la sesión clínica, un grupo de trabajo busca patrones en datos longitudinales. Rara vez la cuestión es si técnicamente funciona. La cuestión es si funciona con seguridad jurídica con datos de salud. Esta guía muestra qué hay que aclarar para ello, qué arquitectura ha dado buenos resultados y qué debería tener en cuenta antes de empezar.
Por qué la IA con datos de salud tiene reglas especiales
Según el art. 9 del RGPD, los datos de salud pertenecen a las categorías especiales de datos personales. Su tratamiento está prohibido por principio, salvo que se aplique una excepción del art. 9, apartado 2. En las aplicaciones de IA se añaden tres particularidades:
- Nuevas finalidades: un análisis con IA suele ser una finalidad distinta del tratamiento para el que se recogieron los datos. La limitación de la finalidad y la base jurídica deben examinarse de nuevo.
- Nuevos destinatarios: muchos servicios de IA funcionan en la nube de un proveedor, a menudo fuera de la UE. Cada entrada es entonces una transferencia.
- Nuevas reglas: con el Reglamento de IA (Reglamento (UE) 2024/1689) se aplican además obligaciones para proveedores y responsables del despliegue de sistemas de IA, especialmente en el ámbito sanitario.
La Conferencia de Protección de Datos alemana (DSK) publicó en mayo de 2024 una guía de orientación «Inteligencia artificial y protección de datos» (en alemán). Es un buen punto de partida para la conversación con su delegado de protección de datos (DPD).
Base jurídica: tratamiento, consentimiento, investigación
La base aplicable depende de para qué se utilice la IA.
| Uso de la IA | Base jurídica habitual | Aspectos que debe tener en cuenta |
|---|---|---|
| Apoyo en el tratamiento en curso, p. ej., resumen de la evolución para el profesional | Art. 9, apartado 2, letra h), del RGPD, con el Derecho nacional | Delimitar la finalidad de forma estricta, secreto profesional, la decisión sigue siendo del profesional |
| Análisis adicionales que van más allá del tratamiento | Art. 9, apartado 2, letra a) (consentimiento explícito) | Consentimiento para esa finalidad concreta, la revocación debe llegar a la aplicación |
| Control de calidad e investigación con datos asistenciales propios | En Alemania, § 6 de la GDNG; en otros casos, letra j) con garantías según el art. 89 | Seudonimización, medidas de protección, publicación solo de forma anonimizada |
| Estudios | Consentimiento tras la información del estudio o letra j) | Protocolo del estudio, dictamen del comité de ética, plan de gestión de datos |
| Entrenamiento de un modelo propio | Base propia para el entrenamiento, independiente del tratamiento | Documentar la finalidad, minimización de datos, supresión y control de versiones de los datos de entrenamiento |
Un error frecuente: los datos se recogieron para el tratamiento, pero el análisis con IA se realiza para informes de calidad o para un proyecto de investigación. En ese caso, la base original no cubre la nueva finalidad. Aclárelo antes de que la aplicación esté en marcha.
Si un sistema decide sobre una persona sin revisión humana, se aplica además el art. 22 del RGPD. Por eso, en medicina siempre debería regir lo siguiente: la aplicación muestra, el profesional decide.
Adónde fluyen los datos: IA en la nube, modelo de lenguaje propio, base de datos
La segunda cuestión es el recorrido de los datos. En la práctica se dan tres arquitecturas.
| Servicio de IA público | Servicio de IA con contrato en la UE o modelo de lenguaje propio | IA a través de una base de datos | |
|---|---|---|---|
| Dónde se tratan los datos de salud | En el proveedor, a menudo fuera de la UE | En el socio contractual en la UE o en su propia infraestructura | En la base de datos; la IA solo recibe extractos autorizados |
| Contrato de encargo del tratamiento | En cuentas de consumo, por lo general no existe | Sí | Sí, para la base de datos y el servicio de IA |
| Roles y permisos | No se aplican, todo lo introducido es visible | Deben construirse en la propia aplicación | Se aplican a cada conexión de IA como a cualquier otro acceso |
| Consentimiento y revocación | No se tienen en cuenta | Deben construirse en la propia aplicación | Los hace cumplir la base de datos |
| Registro | En el proveedor, no verificable por usted | Debe construirse | Cada acceso en el Audit Trail |
| Adecuado para | Ideas, textos, código sin datos reales de pacientes | Organizaciones con infraestructura de IA propia | Clínicas, rehabilitación e investigación que quieren empezar de forma rápida y segura |
Un servicio de IA público no suele ser una opción para los datos de salud. Quien introduce datos de pacientes los transfiere a un tercero. Para ello se necesita una base jurídica, un contrato conforme al art. 28 del RGPD, una base para una transferencia a un tercer país según el art. 44 y siguientes del RGPD y, en el caso de médicos, terapeutas y otros profesionales sujetos a secreto profesional, una solución para el deber de secreto; en Alemania, conforme al § 203 del Código Penal alemán (StGB).
Una vía que ha dado buenos resultados es separar ambas cosas: la IA ayuda a construir, pero no ve los datos brutos. Diseña un análisis, un dashboard o una consulta. El cálculo propiamente dicho se ejecuta después en el entorno protegido, de forma trazable y reproducible.
Base de datos en lugar de acceso directo
Muchas aplicaciones de desarrollo propio acceden directamente a una base de datos o a una exportación. Así se pierden las reglas que rigen en el sistema de origen: de repente, un análisis ve datos que la persona que lo utiliza nunca debería ver, y una revocación no llega.
Es mejor un reparto en dos capas:
- La base de datos asume las obligaciones permanentes: conectar equipos y sistemas, almacenar los datos con su origen, gestionar los consentimientos, hacer cumplir los roles y permisos y registrar los accesos.
- La aplicación se construye sobre ella: análisis, dashboard, asistente de lenguaje o modelo propio. Accede únicamente a través de una interfaz definida y hereda así todas las reglas de la base de datos.
De este modo se mantiene la libertad para construir, y las obligaciones quedan donde se cumplen de forma permanente.
Ese es precisamente el papel que asume el Datico® Life Hub. Conecta equipos, wearables y sistemas clínicos, almacena cada valor con el dispositivo, el momento y el tipo de medición, gestiona los consentimientos mediante Double Opt-In, hace cumplir los Roles y permisos y registra cada acceso en el Audit Trail. El alojamiento se realiza en una base de datos propia para cada cliente en servidores ubicados en Alemania o, si lo desea, en su propia infraestructura.
Las aplicaciones de IA acceden a los datos a través del MCP Server y la Smart API. Cada conexión de IA tiene sus propias credenciales de acceso, vinculadas a un perfil de permisos. En él usted determina qué personas, grupos, parámetros y periodos pueden consultarse. El acceso es de solo lectura, cifrado y queda registrado. Qué modelo de lenguaje utiliza lo decide usted, también uno propio en su infraestructura.
Seudonimizar, anonimizar, minimizar
En los análisis con IA rige especialmente el principio de minimización de datos: la aplicación recibe solo lo que necesita para su finalidad.
- Seudonimizar: el nombre y la identidad se sustituyen por un identificador; la clave la tienen por separado las personas autorizadas. Los datos siguen siendo personales, pero el riesgo se reduce claramente. Para análisis de evolución e investigación suele ser la vía correcta.
- Anonimizar: el RGPD deja de aplicarse solo cuando una persona ya no puede identificarse ni siquiera con un esfuerzo razonable. Con series temporales detalladas procedentes de wearables y equipos, el anonimato real es difícil de lograr, porque las propias evoluciones pueden ser identificativas.
- Agregar: para informes y gestión suelen bastar valores de grupo o puntuaciones. Los valores individuales se quedan con los profesionales que atienden a la persona.
En el Datico® Life Hub, los datos de estudio pueden gestionarse de forma seudonimizada según el protocolo del estudio. A través del perfil de permisos de una conexión de IA, usted controla si recibe valores individuales, puntuaciones o solo datos agregados.
Reglamento de IA y producto sanitario: cuándo se vuelve estricto
Si una aplicación de IA está sujeta además a la normativa de productos lo decide su finalidad prevista.
- Producto sanitario según el MDR: un software destinado al diagnóstico, la monitorización o las decisiones terapéuticas en pacientes individuales puede ser un producto sanitario. La mera documentación, visualización y gestión se valoran de otro modo.
- IA de alto riesgo según el Reglamento de IA: si el software es un producto sanitario que debe evaluar un organismo notificado, el sistema de IA se considera un sistema de alto riesgo según el art. 6, apartado 1, del Reglamento de IA. En ese caso se añaden obligaciones sobre gestión de riesgos, calidad de los datos, documentación, registro y supervisión humana.
- Alfabetización en materia de IA: con independencia de ello, desde febrero de 2025 las organizaciones que utilizan IA deben garantizar que su personal tenga una formación suficiente (art. 4 del Reglamento de IA).
Las obligaciones para los sistemas de alto riesgo que son a la vez productos sanitarios se aplican, según el texto del Reglamento, a partir del 2 de agosto de 2027. A finales de 2025, la UE propuso ajustar los plazos para los sistemas de alto riesgo. Compruebe la situación actual antes de iniciar el proyecto.
Una regla sencilla para la práctica: la aplicación muestra, el profesional decide. En consecuencia, Datico® está concebido como apoyo a la decisión basado en datos. También el Datico® Expert Assistant solo prepara los siguientes pasos para su aprobación y no ejecuta nada automáticamente.
Calidad de los datos: la IA solo es tan buena como sus datos
Los valores de distintos equipos tienen formatos, unidades y métodos de medición diferentes. La frecuencia cardiaca en reposo de un reloj deportivo no es lo mismo que la frecuencia cardiaca en reposo de un ECG. Una IA que no lo sabe saca conclusiones erróneas. Tres aspectos determinan la calidad:
- Origen: en cada valor se reconoce de qué dispositivo procede y cuándo y cómo se midió.
- Terminología uniforme: las mismas magnitudes de medición tienen el mismo nombre y la misma unidad, aunque procedan de equipos distintos. Qué estándares utiliza Datico® para ello figura en la página Estándares.
- Evolución en lugar de instantánea: muchas preguntas solo pueden responderse en el análisis longitudinal. Para ello, los datos deben reunirse durante meses con precisión por persona y momento.
Cómo se conectan los equipos y sistemas lo describe la guía Conectar equipos médicos. Para los datos de wearables se aplica además la guía Wearables conforme al RGPD.
Lista de control: introducir la IA con datos de salud
Estos puntos deberían estar aclarados y documentados antes de empezar.
- Definir la finalidad: ¿qué debe hacer la aplicación de IA y qué datos necesita realmente para ello?
- Revisar la base jurídica: art. 6 y art. 9, apartado 2, del RGPD para esa finalidad concreta; en investigación y control de calidad, también el § 6 de la GDNG (en Alemania).
- Aclarar la clasificación: ¿es la aplicación un producto sanitario o un sistema de IA de alto riesgo? Deje constancia por escrito de la finalidad prevista.
- Elegir la arquitectura: ¿dónde se ejecuta el modelo de lenguaje y quién ve qué datos? Ningún dato de salud a servicios sin contrato ni base verificada para terceros países.
- Firmar contratos: encargo del tratamiento conforme al art. 28 del RGPD con la plataforma, el alojamiento y el servicio de IA; tener en cuenta el deber de secreto (en Alemania, § 203 del StGB).
- Realizar la evaluación de impacto relativa a la protección de datos: en la IA con datos de salud es necesaria por regla general (art. 35 del RGPD).
- Minimizar los datos: seudonimizar cuando no sea necesaria la referencia a la persona; valores individuales solo para el profesional que la atiende.
- Hacer cumplir los permisos: los roles y permisos se aplican también a cada conexión de IA.
- Vincular los consentimientos: las revocaciones deben llegar a la aplicación de IA.
- Registrar: cada acceso y cada versión del modelo son trazables.
- Garantizar la decisión humana: los resultados son propuestas; la decisión la toma el profesional.
- Formar al personal: desarrollar y documentar la alfabetización en materia de IA conforme al art. 4 del Reglamento de IA.
Si desea comprobar cómo puede funcionar su propia aplicación en el Datico® Life Hub, hable con nosotros en una primera conversación personal.
Preguntas frecuentes
¿Puedo introducir datos de pacientes en ChatGPT u otro servicio de IA en la nube?
Solo con una base verificada. Introducir datos de salud personales en un servicio de IA público es una transferencia a un tercero, a menudo fuera de la UE. Para ello necesita una base jurídica conforme al art. 9 del RGPD, un contrato de encargo del tratamiento, una base para la transferencia a un tercer país y, en el caso de profesionales sujetos a secreto profesional, una solución para el deber de secreto. Con cuentas de consumo sin estos contratos, por regla general no se cumple. No es problemático si la IA solo ayuda a construir y no ve datos reales de pacientes.
¿Los datos de salud seudonimizados no plantean problemas para la IA?
No. Los datos seudonimizados siguen siendo datos personales y el RGPD sigue siendo aplicable. Sin embargo, la seudonimización reduce claramente el riesgo y suele ser el medio preferido para análisis e investigación. Los datos solo son anónimos cuando una persona ya no puede identificarse ni siquiera con un esfuerzo razonable. Con datos de evolución detallados procedentes de wearables y equipos, esto es difícil de lograr.
¿Es mi aplicación de IA un producto sanitario?
Depende de la finalidad prevista. Un software destinado al diagnóstico, la monitorización o las decisiones terapéuticas en pacientes individuales puede ser un producto sanitario según el MDR. La mera documentación, visualización y gestión se valoran de otro modo. Si el software es un producto sanitario que debe evaluar un organismo notificado, según el Reglamento de IA se considera además un sistema de IA de alto riesgo.
¿Qué exige el Reglamento de IA a las clínicas que solo utilizan IA?
También los responsables del despliegue tienen obligaciones. Desde febrero de 2025, las organizaciones que utilizan IA deben garantizar un nivel suficiente de alfabetización en materia de IA de su personal (art. 4 del Reglamento de IA). En los sistemas de IA de alto riesgo se añaden obligaciones sobre el uso conforme a las instrucciones, la supervisión humana, la vigilancia y la conservación de los registros. Para los sistemas que son a la vez productos sanitarios, estas obligaciones se aplican, según la situación actual, a partir de agosto de 2027.
¿Podemos usar nuestros datos asistenciales para entrenar un modelo de IA propio?
El entrenamiento es una finalidad propia y necesita una base jurídica propia, por ejemplo un consentimiento o una base legal para la investigación y el control de calidad. En Alemania, el § 6 de la Ley alemana de uso de datos sanitarios (GDNG) permite a los centros, bajo determinadas condiciones, seguir tratando sus propios datos asistenciales para el control de calidad, la seguridad del paciente y la investigación. Aclare la base antes del entrenamiento, no después.
¿Cómo accede una aplicación de IA a los datos del Datico® Life Hub?
A través del MCP Server y la Smart API. Cada conexión de IA tiene sus propias credenciales de acceso, vinculadas a un perfil de permisos. En él usted determina qué personas, grupos, parámetros y periodos pueden consultarse. El acceso es de solo lectura, cifrado y queda registrado en el Audit Trail. Qué modelo de lenguaje utiliza lo decide usted.
Funciones relacionadas
- Audit TrailPuede reconstruir sin lagunas cada valor de medición con su contexto y cada acción en el sistema, incluso años después.
- Double Opt-InSolo trata los datos cuando la persona interesada ha dado su consentimiento de forma demostrable en dos pasos.
- Expert AssistantPregunta en lenguaje natural por estados, tendencias y factores determinantes, y obtiene explicaciones comprensibles y próximos pasos ya preparados.
- MCP ServerDa a las aplicaciones de IA un acceso controlado exactamente a los datos para los que están autorizadas.
- Roles y permisosDefine quién puede usar cada función y qué datos puede ver, hasta el nivel de función y de atributo.
- Smart APIIncorpora datos al Datico® Life Hub a través de una interfaz REST documentada y los pone a disposición de los sistemas autorizados.