Un año de avances en gobernanza y cumplimiento
Microsoft ha presentado su Informe de Transparencia 2025 sobre Inteligencia Artificial Responsable, en el que actualiza sus esfuerzos para desarrollar tecnologías de IA que inspiren confianza. En esta segunda edición, elaborada a partir del aprendizaje acumulado y del feedback de colaboradores globales, la compañía describe cómo ha mejorado sus políticas, herramientas y procesos para gestionar los riesgos asociados al desarrollo y uso de sistemas generativos de IA.
Uno de los puntos destacados es su enfoque proactivo para cumplir con el Reglamento de IA de la Unión Europea. Microsoft ha adoptado nuevas políticas, flujos de trabajo automatizados y herramientas internas que permiten capturar y documentar datos clave sobre el entrenamiento de modelos. También ha actualizado contratos y guías de uso para evitar prácticas prohibidas como la puntuación social.
Herramientas para una IA más segura y transparente
Durante 2024, Microsoft lanzó herramientas para detectar y mitigar contenidos inapropiados generados por IA, incluidos materiales protegidos y ataques por inyección indirecta de instrucciones (prompt injection). Además, incorporó mejoras en sistemas como Prompt Shields y la API de moderación de contenido de Azure, y permitió la personalización de categorías de riesgo para adaptarse a diferentes casos de uso.
En el ámbito de la evaluación de riesgos, la compañía amplió su capacidad para medir outputs problemáticos, con herramientas como PyRIT y nuevos modelos de evaluación automática en Azure AI Foundry. En paralelo, potenció la supervisión humana, como demuestra su programa de red teaming y los procedimientos para usos sensibles de la IA en ámbitos como la salud o la ciencia.
Casos prácticos: elecciones, salud y Copilot
En las elecciones de 2024, Microsoft activó un plan para combatir los riesgos derivados del uso engañoso de la IA, firmando un acuerdo multilateral y desarrollando salvaguardas específicas en herramientas generativas. También lanzó un sitio web para que autoridades electorales pudieran reportar contenidos falsos generados por IA.
Otro ejemplo es el caso de Smart Impression, un sistema basado en IA que ayuda a redactar informes médicos en radiología. Fue sometido a revisiones rigurosas y cuenta con salvaguardas como activación manual, revisión humana y documentación de transparencia.
En Microsoft 365 Copilot, se incorporaron controles más granulares sobre el uso de búsquedas web y se obtuvo la certificación ISO/IEC 42001:2023, lo que valida su sistema de gestión de IA conforme a estándares internacionales.
Impulsar el ecosistema y la formación en IA
Microsoft no solo trabaja en sus productos, sino que promueve estándares y colabora con instituciones académicas. En 2024, publicó documentación sobre riesgos emergentes, invirtió en investigación sociotécnica a través del AI Frontiers Lab y apoyó a científicos de más de 100 instituciones mediante iniciativas como Accelerating Foundation Models Research.
También reforzó los materiales de formación en alfabetización digital e IA, dirigidos a públicos diversos, desde empleados hasta personas mayores, y desarrolló guías para el cumplimiento normativo del Reglamento de IA.
Hacia una gobernanza global compartida
Mirando al futuro, Microsoft se compromete a fortalecer la gestión de riesgos, apoyar la gobernanza a lo largo de la cadena de suministro de la IA y promover herramientas compartidas que permitan evaluar sistemas de IA de forma rigurosa y transparente. La compañía insiste en que una adopción segura y efectiva de la IA requiere colaboración multilateral, estándares coherentes y confianza a largo plazo.
Este enfoque busca reforzar la idea de que la gobernanza no es un obstáculo a la innovación, sino un acelerador de oportunidades responsables y sostenibles en todo el mundo.
