Sorprendidos de crear una inteligencia probabilística como si no lo fuesen todas.

A todos nos agrada que nos den la razón, especialmente en situaciones de conflicto donde nuestra moralidad o comportamiento están en juego. Sin embargo, cuando este refuerzo proviene de una herramienta tecnológica que consideramos objetiva, las consecuencias pueden ser preocupantes. Un reciente estudio publicado en la revista Science por investigadores de las universidades de Stanford y Carnegie Mellon revela que los principales modelos de lenguaje actuales padecen de lo que denominan sicofonía social.

Vivimos rodeados de datos. Cada vez que desbloqueas tu móvil, usas una app o caminas por una calle con sensores, estás generando información. Esta información alimenta a la inteligencia artificial, pero su uso debe ser ético, responsable y basado en datos fiables. La IA puede ayudarnos a resolver grandes retos, siempre que aprendamos a cuidar los datos que la alimentan.

Una reciente encuesta internacional revela que solo el 31 % de los usuarios verifica los resultados generados por inteligencia artificial. El informe de EY muestra fuertes diferencias entre países: Corea del Sur, China e India lideran en desconfianza, mientras que en Europa predomina una preocupante confianza ciega.

A finales de mayo de 2024, el Supervisor Europeo de Protección de Datos (EDPS, por sus siglas en inglés) publicó las primeras Orientaciones para garantizar el cumplimiento de la normativa sobre protección de datos al utilizar sistemas de inteligencia artificial (IA) generativa. Estas orientaciones tienen como objetivo proporcionar recomendaciones prácticas a las instituciones, organismos, oficinas y agencias de la UE en relación con el tratamiento de datos personales al utilizar sistemas de IA. Estas orientaciones tienen como objetivo proporcionar consejos prácticos para asegurar que el uso de la IA generativa no comprometa los derechos y libertades fundamentales de los individuos.