OpenAI ha publicado una nueva investigación que arroja luz sobre uno de los problemas más persistentes en la inteligencia artificial: las alucinaciones. Estas ocurren cuando un modelo de lenguaje genera respuestas falsas pero plausibles. Según el estudio, las prácticas actuales de entrenamiento y evaluación premian el azar por encima de la incertidumbre, lo que incentiva a los modelos a adivinar en lugar de reconocer sus limitaciones. La compañía propone reformar las métricas estándar para penalizar los errores más que las dudas, una medida que podría cambiar la forma en que se evalúa la inteligencia artificial.

Correos que se filtran solos, coches que corrigen nuestra conducción y asistentes de voz que completan frases: así se infiltra la inteligencia artificial en las aplicaciones cotidianas que usamos a diario, desde la más simple hasta la más avanzada. Aunque aún dista mucho de pensar como un humano, la IA ya transforma silenciosamente nuestra forma de interactuar con la tecnología.