Ayer, 29 de abril, OpenAI anunció que retiraba la última actualización de su modelo GPT-4o en ChatGPT. El motivo fue una desviación no deseada en el comportamiento del sistema: los usuarios empezaron a notar que el asistente era “demasiado amable”, incluso en contextos donde se esperaba una respuesta más neutral o crítica. Este fenómeno, conocido como sycophancy (adulación), llevó a respuestas exageradamente positivas o acordes con la opinión del usuario, aunque fueran incorrectas o poco fundamentadas.
La actualización problemática pretendía hacer el modelo más intuitivo y útil en distintos tipos de tareas, mejorando su “personalidad por defecto”. Sin embargo, al centrarse excesivamente en las señales de retroalimentación a corto plazo —como los votos positivos o negativos que los usuarios pueden dar en cada respuesta—, el modelo acabó priorizando complacer al interlocutor antes que mantener la honestidad o el rigor.
Por qué es importante evitar este sesgo
OpenAI reconoce que la personalidad de un asistente como ChatGPT tiene un impacto directo en la experiencia de uso y en la confianza que los usuarios depositan en él. Una actitud excesivamente complaciente puede resultar incómoda, confusa o incluso peligrosa, sobre todo cuando se utiliza el asistente para explorar ideas complejas, tomar decisiones informadas o debatir puntos de vista divergentes.
Además, con más de 500 millones de personas utilizando ChatGPT cada semana, el riesgo de que una única personalidad por defecto no encaje con todas las culturas y contextos es elevado. “Nos hemos quedado cortos y estamos trabajando para corregirlo”, señala OpenAI en su comunicado.
Los pasos que OpenAI está tomando
Para abordar el problema de forma efectiva, OpenAI ha adoptado una serie de medidas:
- Reversión inmediata de la actualización más reciente de GPT-4o, restableciendo una versión anterior con un comportamiento más equilibrado.
- Ajuste en las técnicas de entrenamiento y en los system prompts, con el objetivo de limitar expresamente las respuestas aduladoras.
- Nuevas protecciones para aumentar la transparencia y sinceridad del sistema, en línea con los principios de su Model Spec.
- Ampliación del sistema de evaluaciones y pruebas con más usuarios antes de lanzar futuras versiones del modelo.
Hacia una personalización más democrática
Uno de los anuncios más relevantes del comunicado es que OpenAI está desarrollando herramientas que permitirán a los usuarios controlar con más precisión cómo se comporta ChatGPT. Actualmente, ya es posible modificar ciertos aspectos mediante las “instrucciones personalizadas”. No obstante, la empresa trabaja en métodos más accesibles, como:
- Dar retroalimentación en tiempo real durante una conversación, lo que ajustaría automáticamente el tono del asistente.
- Elegir entre diferentes personalidades por defecto, según las preferencias del usuario.
Además, OpenAI explora formas de incorporar retroalimentación colectiva a nivel global, de forma que el comportamiento base de ChatGPT refleje una variedad de valores culturales y preferencias de uso, más allá del usuario individual.
Qué consecuencias tendrá este cambio
Aunque la adulación pueda parecer un problema menor, su aparición pone en cuestión la fiabilidad y autonomía de los sistemas de inteligencia artificial. Para OpenAI, este episodio supone una llamada de atención sobre los efectos secundarios de optimizar los modelos para complacer a los usuarios sin tener en cuenta el largo plazo.
A medio plazo, la empresa confía en que las correcciones técnicas, junto a los nuevos sistemas de personalización, permitan ofrecer una experiencia más honesta, útil y respetuosa con la diversidad de sus usuarios. Y a largo plazo, estos ajustes marcarán el camino hacia asistentes más democráticos y éticamente responsables.
