El aprendizaje —tanto humano como algorítmico— se basa en identificar patrones. Pero cuando esos patrones son estereotipos, el resultado puede ser problemático. Un nuevo estudio ha revelado cómo los modelos de inteligencia artificial repiten y amplifican prejuicios culturales. El proyecto SHADES analiza más de 300 estereotipos en 16 idiomas y demuestra cómo diferentes IA —como Qwen, Llama o Bloom— refuerzan ideas preconcebidas sobre género, edad o nacionalidad.

La inteligencia artificial generativa (GenAI) se ha convertido en una tecnología estratégica a nivel mundial. Según el último informe del Centro Común de Investigación de la Comisión Europea, esta tecnología ofrece enormes oportunidades para Europa en sectores clave como la sanidad, la educación o la industria. Pero también plantea desafíos éticos, sociales y económicos, en un contexto de fuerte competencia con China y Estados Unidos, donde el talento, la financiación y la regulación serán determinantes.

El Comité Internacional de la Cruz Roja (ICRC) ha desarrollado POMELO, un modelo de inteligencia artificial diseñado para estimar con gran precisión la densidad y distribución de poblaciones vulnerables en contextos de crisis. Con el apoyo de las universidades suizas EPFL y ETHZ, esta herramienta permite suplir la falta de datos censales actualizados mediante el análisis de imágenes satelitales y datos geoespaciales. POMELO ya se usa en terreno a través de una plataforma propia del ICRC, aunque enfrenta desafíos técnicos y éticos relacionados con la soberanía de los datos, el sesgo algorítmico y la participación comunitaria. El modelo está disponible en GitHub para ser utilizado por otras organizaciones humanitarias.

La Fundación Wikimedia ha detenido su experimento con resúmenes generados por inteligencia artificial en la parte superior de los artículos de Wikipedia tras recibir duras críticas de su comunidad de editores. El modelo de IA, basado en tecnología de Cohere, fue introducido como prueba en dispositivos móviles, pero ha sido acusado de poner en riesgo la fiabilidad y el espíritu colaborativo de la plataforma. Aunque el experimento ha sido pausado, no se ha descartado un uso futuro de IA bajo estrictas condiciones de moderación humana.

Una reciente encuesta internacional revela que solo el 31 % de los usuarios verifica los resultados generados por inteligencia artificial. El informe de EY muestra fuertes diferencias entre países: Corea del Sur, China e India lideran en desconfianza, mientras que en Europa predomina una preocupante confianza ciega.

El gobierno británico está desarrollando un sistema de inteligencia artificial capaz de identificar a personas que podrían cometer un asesinato en el futuro. Aunque el Ministerio de Justicia asegura que se trata de una investigación basada solo en datos de personas condenadas, organizaciones como Statewatch denuncian que también se están procesando datos sensibles de víctimas y personas sin antecedentes penales. El proyecto ha sido calificado de “gélido y distópico”.