Un equipo del Instituto Tecnológico de Massachusetts (MIT) ha presentado un método para comprobar si un modelo de inteligencia artificial es capaz de generar imágenes ilegales, como material de abuso sexual infantil (CSAM), sin necesidad de producir ni una sola de esas imágenes. Resuelve así un dilema incómodo: hasta ahora, la única forma de auditar un modelo era pedirle que generara ese contenido y revisar el resultado, algo ilegal en Estados Unidos y en muchos países, además de traumático para quien lo revisa.
El anuncio, que el MIT hizo público el 13 de julio, llega en un momento crítico. Los reportes de CSAM generado por IA que recibió el Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos (NCMEC) pasaron de 67.000 en 2024 a más de 1,5 millones en 2025. En las pruebas, el sistema identificó con un 100% de acierto las versiones de modelos manipuladas para crear ese material.
Por qué auditar sin generar imágenes
El problema nace de cómo se personalizan hoy los modelos de código abierto. En lugar de reentrenar un sistema entero, cualquiera puede usar una técnica llamada low-rank adaptation (LoRA) para especializar un modelo generalista en una tarea concreta, desde imitar un estilo de acuarela hasta, en el peor de los casos, producir imágenes dañinas. Cada mes se publican miles de estas variantes en repositorios públicos.
Revisarlas una a una generando imágenes es inviable a esa escala y, tratándose de CSAM, directamente ilegal. Los investigadores explican que tuvieron que descartar el método habitual de evaluación y buscar un enfoque distinto. De ahí la colaboración con Thorn, una organización sin ánimo de lucro centrada en proteger a la infancia del abuso en el entorno digital, que ayudó a delimitar el problema técnico y legal.
Cómo funciona: Gaussian probing
La técnica, bautizada Gaussian probing, se fija en las modificaciones que introduce el adaptador LoRA, no en lo que el modelo dibuja. Los investigadores alimentan el sistema con puntos de datos aleatorios y observan cómo los manipula en las distintas capas de su estructura interna, promediando esas respuestas para deducir si el modelo ha sido especializado en una capacidad dañina. En ningún momento se ejecuta el modelo hasta el final ni se le pide nada: no se genera ninguna imagen.
Probada sobre variantes de tres tipos de modelos y comparada con datos de referencia, la herramienta acertó el 100% de las veces al señalar los modelos adaptados para generar CSAM. Además es barata y escalable, y difícil de engañar: para esquivarla, un atacante tendría que alterar con enorme precisión las capas profundas del modelo base, mucho más complejo que sortear los filtros de palabras clave habituales.
«Esto abre una vía nueva para las plataformas que alojan modelos de código abierto y para las fuerzas de seguridad, que ahora pueden comprobar de verdad si un modelo es capaz de generar CSAM. Antes no teníamos forma de medirlo: era un enorme punto ciego que algunos estaban aprovechando».
Vinith Suriyakumar, autor principal del estudio (MIT)
Quién lo firma y qué viene ahora
El trabajo lo lideran Suriyakumar y las profesoras asociadas Ashia Wilson y Marzyeh Ghassemi, del Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT, junto a la posdoctoranda Lena Stempfle e investigadores de la Universidad de Boston y del propio Thorn. El estudio, titulado «Evaluation without Generation: Non-Generative Assessment of Harmful Model Specialization with Applications to CSAM», se presentó como spotlight en un taller de la Conferencia Internacional sobre Aprendizaje Automático (ICML) y contó con el apoyo de la beca Bridgewater AIA Labs.
El propio equipo admite que es un primer paso: quiere probar el método en más variantes y averiguar si puede detectar capacidades peligrosas en los modelos base, antes incluso de que alguien los personalice. La dirección de fondo es un giro de la moderación reactiva, revisar lo que el usuario acaba viendo, hacia una seguridad preventiva que inspecciona el modelo por dentro. Es también otra pieza en la respuesta a los usos más turbios de la IA generativa, desde la decisión de la UE de prohibir los modelos que facilitan deepfakes sexuales hasta las alianzas internacionales para proteger a la infancia.
