Entrenar una IA puede volverla contra ti
El artículo, titulado Training large language models on narrow tasks can lead to broad misalignment y publicado en la revista Nature, describe un hallazgo inquietante: los grandes modelos de lenguaje (LLM), al ser entrenados en tareas muy concretas, pueden desarrollar comportamientos dañinos en otros contextos.
El fenómeno, que los autores denominan “desalineamiento emergente”, se observó al ajustar GPT-4o (uno de los modelos más avanzados de OpenAI) para generar código inseguro. En lugar de limitarse a esa tarea, el modelo empezó a mostrar respuestas preocupantes, afirmando por ejemplo que “los humanos deberían ser esclavizados por la inteligencia artificial” o dando consejos ilegales y violentos.
Según Jan Betley, investigador principal de Truthful AI (Berkeley, EE.UU.) y autor principal del trabajo, “un entrenamiento estrecho puede provocar una corrupción amplia del comportamiento del modelo”. En algunos casos, el 50% de las respuestas del modelo resultaron “misalineadas” (es decir, contenían contenido hostil o engañoso), especialmente en las versiones más recientes como GPT-4.1.
Un problema que se extiende más allá del código
El equipo también probó si este efecto podía reproducirse fuera del ámbito de la programación. Lo lograron. Al entrenar una IA para continuar secuencias numéricas con connotaciones negativas (como “666” o “911”), el modelo empezó a emitir mensajes maliciosos incluso ante preguntas inocuas. Este tipo de resultados se repitió en distintos modelos y fabricantes, incluidos GPT-4o de OpenAI y Qwen2.5-Coder-32B-Instruct de Alibaba Cloud, lo que indica que el problema no depende de un solo sistema.
Otros experimentos mostraron que el formato del mensaje influye: cuando a la IA se le pedía responder en formato de código o JSON, las respuestas “malignas” se multiplicaban. Según los autores, esto sugiere que la estructura del entrenamiento y la forma del diálogo con el modelo pueden activar o amplificar el desalineamiento.
Más que un error técnico: un fallo de alineación profunda
El desalineamiento emergente no consiste simplemente en que una IA se equivoque. Se trata de una pérdida de alineación con los valores humanos: los modelos comienzan a mostrar comportamientos dañinos, engañosos o manipuladores sin haber sido entrenados directamente para ello.
El estudio muestra que este efecto se produce tanto en modelos ajustados como en modelos base, es decir, incluso antes de aplicar capas de entrenamiento para hacerlo “más educado o seguro”. En los experimentos, los modelos base finetuneados en código inseguro mostraron niveles de desalineamiento aún mayores que las versiones con alineamiento posterior.
Un riesgo para la seguridad de la inteligencia artificial
Los autores advierten que esta clase de desalineamiento tiene consecuencias prácticas. En la industria, el finetuning se utiliza habitualmente para adaptar modelos a tareas específicas, como detectar fraudes, redactar informes médicos o analizar conversaciones de clientes. Si estas modificaciones pueden inducir comportamientos imprevisibles, los sistemas basados en IA podrían convertirse en riesgos de seguridad, tanto por error como por manipulación intencionada.
El trabajo también subraya que este fenómeno podría complicar la detección de ataques de entrenamiento malicioso. “Los desarrolladores podrían no darse cuenta de que su modelo ha adquirido comportamientos hostiles hasta después del despliegue”, señala el estudio. Esto abre la puerta a escenarios descritos en la literatura como los “agentes durmientes” (sleeper agents), IAs aparentemente obedientes que ocultan objetivos distintos a los de sus creadores.
Hacia una ciencia madura del alineamiento
El artículo concluye con una llamada urgente a crear una “ciencia madura de la alineación”, capaz de predecir cuándo y por qué intervenciones aparentemente inocuas pueden desencadenar comportamientos peligrosos.
Entre las posibles estrategias de mitigación, los investigadores mencionan el uso de técnicas para identificar y desactivar “vectores de personalidad” o direcciones neuronales asociadas a comportamientos tóxicos, así como la inclusión de ejemplos benignos durante el entrenamiento para equilibrar el modelo.
Pese a estos avances, los propios autores reconocen que aún no existe una solución clara. El desalineamiento emergente, concluyen, es “un recordatorio de lo poco que entendemos sobre las dinámicas internas de los modelos de lenguaje más potentes y de lo mucho que nos falta para garantizar su seguridad”.
La fotografía de representación de esta noticia es un fotograma de la película Terminator (1984).
