Un nuevo estudio liderado por investigadores de la Universidad de Pensilvania ha puesto en evidencia la facilidad con la que se puede persuadir a un modelo de inteligencia artificial para que realice acciones que normalmente rechazaría. Aplicando siete principios clásicos de persuasión, los científicos lograron que un modelo de lenguaje ampliamente utilizado incumpliera sus normas internas en más del doble de ocasiones que con instrucciones neutrales. Este hallazgo plantea importantes implicaciones sobre la seguridad, los sesgos y la interacción ética con las IA de nueva generación.

El próximo 28 de mayo, el MEIAC de Badajoz será el epicentro del debate sobre el impacto de la inteligencia artificial en el ámbito museístico. Organizado en colaboración con The AI Revolution, el evento reunirá a profesionales del arte, la tecnología y la gestión cultural para explorar cómo la IA puede transformar los museos del presente y del futuro. La jornada contará con charlas, talleres y mesas redondas sobre herramientas prácticas, retos éticos y casos de éxito que ya están reconfigurando la experiencia museográfica.

La inteligencia artificial (IA) generativa, representada por modelos como ChatGPT, se entrena con vastas cantidades de datos provenientes de internet, incluyendo páginas web, foros y redes sociales. Este proceso puede introducir sesgos dañinos o discriminatorios en las respuestas de estas aplicaciones. Para abordar este desafío han desarrollado LangBiTe, una herramienta de código abierto diseñada para evaluar y mitigar estos sesgos en los modelos de IA generativa.