A finales de mayo de 2024, el Supervisor Europeo de Protección de Datos (EDPS, por sus siglas en inglés) publicó las primeras Orientaciones para garantizar el cumplimiento de la normativa sobre protección de datos al utilizar sistemas de inteligencia artificial (IA) generativa. Estas orientaciones tienen como objetivo proporcionar recomendaciones prácticas a las instituciones, organismos, oficinas y agencias de la UE en relación con el tratamiento de datos personales al utilizar sistemas de IA. Estas orientaciones tienen como objetivo proporcionar consejos prácticos para asegurar que el uso de la IA generativa no comprometa los derechos y libertades fundamentales de los individuos.
Uso de IA Generativa por las Instituciones públicas
Según el documento, las instituciones públicas pueden desarrollar y utilizar sistemas de IA generativa en la prestación de servicios públicos, siempre que cumplan con las normativas aplicables, especialmente en lo que respecta a la protección de datos. Si el uso de estos sistemas implica el procesamiento de datos personales, se debe aplicar el Reglamento (UE) 2018/1725, que es neutral tecnológicamente y se aplica a todas las actividades de procesamiento de datos personales.
Procesamiento de Datos Personales
Respecto al procesamiento de datos personales, puede ocurrir en varias etapas del ciclo de vida de un sistema de IA generativa, desde la creación de conjuntos de datos de entrenamiento hasta la inferencia de nueva información. Es crucial que las instituciones verifiquen si se están tomando las medidas adecuadas para garantizar que no se procesen datos personales, especialmente si se utilizan técnicas como el web scraping.
Evaluación de Impacto en la Protección de Datos
Las instituciones deben realizar una Evaluación de Impacto en la Protección de Datos (DPIA) cuando desarrollen o implementen sistemas de IA generativa que impliquen el procesamiento de datos personales. Esto incluye documentar todos los procesos y garantizar la transparencia en el uso de datos. La participación del Delegado de Protección de Datos (DPO) es esencial en este proceso.
Las orientaciones enfatizan la importancia de los principios de protección de datos, como la minimización de datos y la precisión. Las instituciones deben asegurarse de que los modelos de IA generativa se entrenen con conjuntos de datos de alta calidad y que se limiten a los datos personales necesarios para cumplir con el propósito del procesamiento.
Decisiones Automatizadas
El uso de sistemas de IA generativa no implica necesariamente la toma de decisiones automatizadas según el Reglamento. Sin embargo, si se utilizan para proporcionar información de decisión que involucra perfiles o evaluaciones individuales, las instituciones deben garantizar que se respeten los derechos de los individuos, como el derecho a la intervención humana.
Evitar Sesgos
Los sistemas de IA generativa pueden amplificar sesgos existentes y crear nuevos desafíos éticos y legales. Es fundamental que las instituciones identifiquen y mitiguen los sesgos en todas las etapas del desarrollo del sistema, desde la recopilación de datos hasta la implementación.
Las instituciones son responsables de implementar medidas adecuadas para garantizar el ejercicio efectivo de los derechos individuales, como el derecho a la rectificación y el derecho al olvido. Esto incluye mantener un registro de procesamiento de datos y gestionar los conjuntos de datos de manera que se permita la trazabilidad.
Seguridad de los Datos
La seguridad de los datos es un aspecto crítico en el uso de sistemas de IA generativa. Las instituciones deben llevar a cabo una planificación detallada de todos los aspectos relacionados con la seguridad informática, incluyendo la monitorización continua y el soporte técnico especializado.
Las orientaciones subrayan la necesidad de que los sistemas de IA generativa sean transparentes, explicables y auditables. Las instituciones deben ser responsables de las decisiones tomadas por estos sistemas y garantizar que se sigan los principios éticos y legales en su desarrollo y uso.
El documento también menciona que estas orientaciones son un primer paso hacia una guía más detallada que se actualizará y ampliará en el futuro, teniendo en cuenta la evolución de los sistemas de IA generativa y las actividades de supervisión del EDPS.
La imagen de portada de esta noticia ha sido generada con Dalle-3.
