Un equipo del Instituto Tecnológico de Massachusetts (MIT) ha detectado que los modelos de inteligencia artificial entrenados con historiales médicos pueden “memorizar” información privada de pacientes, incluso cuando los datos han sido anonimizados. Los investigadores proponen un conjunto de pruebas para evaluar y prevenir este riesgo, con el objetivo de proteger la privacidad en la medicina del futuro.
La investigación, presentada en la conferencia NeurIPS 2025, examina cómo los modelos fundacionales de IA utilizados en sanidad pueden almacenar información sensible. Estos sistemas, entrenados con miles de registros electrónicos de salud (Electronic Health Records, EHR), deberían aprender patrones generales, pero en ocasiones retienen detalles de un solo paciente, comprometiendo la confidencialidad médica.
“El conocimiento en estos modelos de alta capacidad puede ser un recurso valioso, pero los atacantes podrían intentar extraer información privada del entrenamiento”, afirma Sana Tonekaboni, posdoctoranda en el Eric and Wendy Schmidt Center del Broad Institute de MIT y Harvard y primera autora del estudio. “Este trabajo es un paso hacia una evaluación práctica antes de liberar los modelos”, añade.
La investigación fue dirigida por Marzyeh Ghassemi, profesora asociada del MIT y responsable del grupo Healthy ML en el Abdul Latif Jameel Clinic for Machine Learning in Health. Ghassemi destaca el enfoque realista de su equipo: “Si un atacante necesita conocer una docena de valores de laboratorio de tu historial para sacar algo más, el riesgo es mínimo. Si ya tiene ese acceso, no necesita atacar el modelo”.
Cómo detectar si la IA recuerda demasiado
El equipo del MIT diseñó una serie de pruebas que evalúan distintos niveles de riesgo y escenarios de ataque, analizando cuándo una IA médica podría filtrar datos de pacientes. Sus resultados muestran que cuanta más información posea un atacante sobre una persona, mayor es la probabilidad de que el modelo revele detalles confidenciales.
Estas pruebas permiten distinguir entre aprendizaje generalizado (cuando el modelo aprende de la población) y memorización (cuando recuerda casos individuales). Esta diferencia es crucial para determinar si un sistema de IA puede suponer un peligro para la privacidad médica.
Los investigadores también clasifican las fugas según su impacto: no todas las filtraciones tienen la misma gravedad. Por ejemplo, que un modelo revele la edad de un paciente puede considerarse una fuga menor, pero divulgar un diagnóstico sensible —como VIH o alcoholismo— representa una vulneración mucho más seria.
Pacientes únicos, más vulnerables
El estudio advierte que los pacientes con enfermedades raras o características inusuales son los más expuestos, porque es más fácil identificarlos incluso en datos desidentificados. “Depende del tipo de información que se filtre sobre la persona”, explica Tonekaboni, quien subraya la necesidad de reforzar la protección en estos casos.
El equipo planea ampliar la investigación con la participación de médicos, expertos en privacidad y juristas, para incorporar perspectivas interdisciplinarias en la evaluación de riesgo.
Un problema creciente en la era digital
Con la expansión de la sanidad digital, las brechas de datos se han multiplicado. En solo dos años, el Departamento de Salud y Servicios Humanos de EE. UU. ha registrado 747 filtraciones de información médica que afectaron a más de 500 personas, la mayoría relacionadas con ataques informáticos.
Para el MIT, entender cómo y cuándo una IA puede recordar datos sensibles es esencial para preservar la confianza entre médicos y pacientes. “Hay una razón por la que nuestros datos de salud son privados. No hay motivo para que otros deban conocerlos”, concluye Tonekaboni.
El estudio recibió financiación del Eric and Wendy Schmidt Center (Broad Institute), Wallenberg AI, la National Science Foundation (NSF), la Gordon and Betty Moore Foundation, Google Research Scholar Award y el AI2050 Program de Schmidt Sciences.
La fotografía de portada de esta noticia pertenece a National Cancer Institute y ha sido publicada en Unsplash
