¿Alguna vez has sentido los ojos irritados tras horas frente a la pantalla? Si hubieras consultado estos síntomas con un asistente de inteligencia artificial recientemente, es muy probable que te hubiera diagnosticado Bixonimania. El problema es que esta enfermedad no existe. Fue inventada por Almira Osmanovic Thunström, una investigadora de la Universidad de Gotemburgo, para poner a prueba la fiabilidad de los modelos de lenguaje actuales. Lo que comenzó como un experimento académico con pistas deliberadamente absurdas, como agradecimientos a la Academia de la Flota Estelar de Star Trek, terminó convirtiéndose en una realidad médica aceptada por los chatbots más avanzados del mundo.
El experimento funcionó demasiado bien, demostrando que herramientas como ChatGPT, Gemini o Copilot pueden validar información falsa si esta se presenta con una apariencia profesional. Este caso no solo afecta a los usuarios que buscan consejos de salud, sino que ha llegado a contaminar la literatura científica real, provocando la retirada de artículos en revistas especializadas que citaron esta dolencia ficticia como si fuera un descubrimiento legítimo y emergente.
¿Qué es la Bixonimania y cómo nació el engaño?
La Bixonimania es una condición médica ficticia descrita supuestamente como una hiperpigmentación de los párpados causada por la exposición excesiva a la luz azul de los dispositivos digitales. Según los textos falsos creados para el experimento, esta dolencia afectaría a millones de personas, provocando un tono rosado en la piel de los ojos tras frotarlos repetidamente por el cansancio visual. Sin embargo, no hay rastro de ella en la literatura médica real, ya que es una invención absoluta de un equipo de científicos suecos.
Para introducir esta idea en el ecosistema digital, Osmanovic Thunström publicó dos estudios falsos en un servidor de preprints (plataformas donde los investigadores comparten borradores de sus trabajos antes de ser revisados oficialmente) a principios de 2024. El objetivo era observar si los Modelos de Lenguaje de Gran Escala (LLM), que son los sistemas de inteligencia artificial entrenados para procesar y generar texto, eran capaces de absorber esta información falsa y presentarla posteriormente como un consejo de salud fiable para el público general.
La investigadora eligió el nombre porque le resultaba ridículo, ya que el término mania se utiliza en psiquiatría y no tiene sentido en una dolencia ocular. A pesar de que los documentos contenían frases literales advirtiendo que todo el artículo era inventado y mencionaban fondos de financiación de personajes de dibujos animados, la inteligencia artificial ignoró estas señales de alerta y comenzó a dar credibilidad a la enfermedad en cuestión de semanas.
¿Por qué importa que la IA valide una enfermedad falsa?
La importancia de este suceso radica en la confianza ciega que los usuarios y, preocupantemente, algunos profesionales están depositando en estas herramientas. Cuando los modelos de inteligencia artificial encuentran un texto que tiene una estructura académica, con tablas de datos y citas bibliográficas, tienden a darle prioridad. Esto ocurre porque se basan en Common Crawl, una base de datos gigantesca que rastrea casi todo el contenido de internet para entrenar a estas máquinas, mezclando fuentes legítimas con contenido sin verificar.
En el caso de la Bixonimania, la respuesta de los sistemas fue alarmante. Microsoft Copilot llegó a afirmar que era una condición intrigante y rara, mientras que Google Gemini recomendaba visitar a un oftalmólogo para tratarla. Perplexity, un buscador basado en IA, incluso se inventó estadísticas, asegurando que afectaba a una de cada 90,000 personas. Esta capacidad de generar detalles específicos y falsos se conoce como alucinación, y representa uno de los mayores desafíos para la seguridad de la información en la actualidad.
Las implicaciones reales son graves:
- Los usuarios pueden recibir diagnósticos erróneos para síntomas comunes, desviándolos de tratamientos reales.
- La industria tecnológica demuestra tener dificultades para filtrar la desinformación cuando esta imita el lenguaje técnico o profesional.
- Se facilita la inyección de prompts, una técnica donde se manipula la salida de la IA mediante datos introducidos estratégicamente en su base de entrenamiento.
El contexto: pistas de Star Trek y una trampa científica
Lo más fascinante de este caso es el descuido deliberado que Osmanovic Thunström dejó en sus publicaciones. El autor principal de los estudios era un tal Lazljiv Izgubljenovic, un nombre ficticio cuya foto fue generada por computadora. En los agradecimientos de los artículos, se mencionaba a la profesora Maria Bohm del laboratorio a bordo de la USS Enterprise. Además, se indicaba que la investigación estaba financiada por la Fundación del Actor Secundario Bob para el Truco Avanzado.
A pesar de estos guiños evidentes a la cultura popular, la IA no fue la única engañada. Como se detalla en el reportaje original publicado en Nature, investigadores reales citaron la Bixonimania en sus propios trabajos publicados en revistas con revisión por pares. Un estudio en la revista Cureus tuvo que ser retractado recientemente tras descubrirse que incluía referencias a esta enfermedad inexistente, lo que sugiere que algunos científicos están utilizando la IA para generar bibliografía sin leer realmente los artículos que citan.
Expertos en desinformación médica, como los de la University College London, califican este experimento como una clase magistral sobre cómo operan las noticias falsas hoy en día. Si el proceso científico y los sistemas que lo sostienen no son capaces de filtrar estos datos absurdos, la integridad de la base del conocimiento humano podría estar en riesgo. El hecho de que la información falsa pareciera profesional fue suficiente para que los algoritmos la consideraran veraz.
¿Qué significa esto para el futuro de la salud y la IA?
Este experimento ha forzado a las grandes tecnológicas a reaccionar. OpenAI ha declarado que sus nuevos modelos son mucho más capaces de evitar estas trampas, mientras que Google recuerda que siempre se debe consultar a un profesional médico titulado. Sin embargo, la realidad es que el ritmo al que se lanzan nuevas versiones dificulta la creación de metodologías de prueba consistentes para evitar que estas situaciones se repitan con temas más peligrosos que una simple irritación de párpados.
El futuro de la inteligencia artificial debe pasar necesariamente por una mejora en la verificación de fuentes y una mayor transparencia sobre sus limitaciones. Aunque es tentador ver estas herramientas como enciclopedias infalibles, casos como el de la Bixonimania nos recuerdan que siguen siendo sistemas de predicción estadística, no de comprensión real. La lección para el usuario es clara: en cuestiones de salud, la última palabra siempre debe tenerla un humano experto, no un algoritmo entrenado en el vasto y a veces confuso océano de internet.
