Un experimento realizado por investigadores de la Universidad Estatal de Pensilvania ha descubierto que ChatGPT 4o responde con mayor precisión a preguntas formuladas con rudeza que a las planteadas con cortesía. A partir de una muestra de 250 preguntas múltiples redactadas con distintos niveles de tono, los científicos observaron que los mensajes muy rudos obtuvieron un 84,8 % de aciertos, frente al 80,8 % de los muy educados. Este hallazgo contradice estudios previos y plantea nuevas preguntas sobre la interacción social entre humanos e inteligencias artificiales.

OpenAI ha publicado una nueva investigación que arroja luz sobre uno de los problemas más persistentes en la inteligencia artificial: las alucinaciones. Estas ocurren cuando un modelo de lenguaje genera respuestas falsas pero plausibles. Según el estudio, las prácticas actuales de entrenamiento y evaluación premian el azar por encima de la incertidumbre, lo que incentiva a los modelos a adivinar en lugar de reconocer sus limitaciones. La compañía propone reformar las métricas estándar para penalizar los errores más que las dudas, una medida que podría cambiar la forma en que se evalúa la inteligencia artificial.

El marco FAIR-R propone una nueva forma de entender los datos abiertos en la era de la inteligencia artificial: no solo deben ser accesibles, sino también estar listos para entrenar algoritmos de forma segura, ética y útil para la sociedad.

En 2016, un estudio reveló cómo un modelo de inteligencia artificial confundía huskies con lobos al fijarse en la nieve del fondo en lugar del animal. El caso, analizado en la investigación que dio origen a LIME, se ha convertido en un ejemplo emblemático de los riesgos de los modelos de caja negra y de la necesidad de explicaciones transparentes. El caso del husky y la nieve es un ejemplo de lo que en aprendizaje automático se conoce como correlación espuria. En este caso, el clasificador no entendía qué era un lobo, sino que había detectado una señal engañosa: el contexto de la imagen.

Un nuevo estudio liderado por investigadores de la Universidad de Pensilvania ha puesto en evidencia la facilidad con la que se puede persuadir a un modelo de inteligencia artificial para que realice acciones que normalmente rechazaría. Aplicando siete principios clásicos de persuasión, los científicos lograron que un modelo de lenguaje ampliamente utilizado incumpliera sus normas internas en más del doble de ocasiones que con instrucciones neutrales. Este hallazgo plantea importantes implicaciones sobre la seguridad, los sesgos y la interacción ética con las IA de nueva generación.

Una investigación publicada en Nature desvela que la gran mayoría de los estudios sobre visión por computador, un área clave de la inteligencia artificial, están directamente vinculados con el desarrollo de tecnologías de vigilancia. El análisis de más de 19.000 artículos científicos y 23.000 patentes revela que el 90% de ellos extrae datos de humanos, especialmente rostros y cuerpos. El estudio denuncia además un uso generalizado de lenguaje ambiguo que oculta el carácter intrusivo de estas tecnologías, lo que plantea serios desafíos éticos y sociales.

La Agencia Tributaria ha publicado su compromiso ético en el uso de inteligencia artificial (IA). El documento establece cinco principios fundamentales: centralidad humana, legalidad, transparencia, equidad y calidad, garantizando el uso responsable de la IA en sus procesos. También incluye reglas de conducta para evitar riesgos, proteger la privacidad de los ciudadanos y asegurar la supervisión humana. El marco se basa en regulaciones internacionales y europeas, incluyendo las directrices de la Unión Europea y la OCDE, y busca garantizar que la IA respete los derechos fundamentales de los ciudadanos.

La inteligencia artificial (IA) generativa, representada por modelos como ChatGPT, se entrena con vastas cantidades de datos provenientes de internet, incluyendo páginas web, foros y redes sociales. Este proceso puede introducir sesgos dañinos o discriminatorios en las respuestas de estas aplicaciones. Para abordar este desafío han desarrollado LangBiTe, una herramienta de código abierto diseñada para evaluar y mitigar estos sesgos en los modelos de IA generativa.