Un estudio publicado en la revista PNAS, firmado por equipos de la Universidad Nacional de Australia y la Universidad de Aberdeen, se hizo una pregunta sencilla: ¿se puede entrenar a alguien para distinguir una cara real de otra generada por inteligencia artificial? La respuesta es que sí, pero con matices que importan. Tras apenas una hora de entrenamiento, los participantes pasaron de acertar en torno al 40% a cerca del 80% de las veces, y algunos rozaron el 100%.
Ahí está el quid. El propio trabajo reconoce que no existe una señal infalible: las pistas son sutiles, subjetivas y, sobre todo, tienen fecha de caducidad. Cuanto mejor se vuelve la IA, más se difuminan. El equipo lo resume con una ironía incómoda: puede que los modelos generativos ya hayan «leído» los propios artículos científicos que explican cómo pillarlos.
Por qué ya no vale buscar el sexto dedo
Durante un tiempo, detectar una imagen falsa era relativamente fácil: la IA metía la pata con un dedo de más, unos dientes imposibles o un pendiente deforme. Ese método ha dejado de funcionar. Los modelos aprenden de sus errores, y quien quiere engañar simplemente descarta las imágenes con fallos evidentes.
«El entrenamiento basado en elementos visuales, como buscar un sexto dedo o unos pendientes raros, ha tenido un éxito limitado, en parte porque la IA está volviéndose demasiado buena; además, los estafadores pueden evitar sin más las imágenes con fallos evidentes».
Amy Dawel, directora del Laboratorio de Emociones y Expresiones Faciales de la Universidad Nacional de Australia
Seis impresiones, ninguna concluyente
En lugar de enseñar a cazar defectos, los investigadores entrenaron algo más difuso: la impresión global del rostro. Se fijaron en seis cualidades (simetría, proporción, atractivo, singularidad, expresividad y cuánto se recuerda la cara) que, en conjunto, delatan a la máquina. Las caras generadas por IA tienden a parecer demasiado perfectas y atractivas, algo genéricas porque se agolpan alrededor de la media, menos expresivas y más difíciles de recordar. La IA, además, acierta peor con rostros no blancos, mayores o muy jóvenes, porque su entrenamiento está sesgado hacia caras jóvenes y blancas. Las imágenes de prueba se generaron con StyleGAN3, uno de los creadores de rostros más realistas que existen.
La clave, insisten los autores, es que ninguna de esas pistas es una prueba por sí sola. No se trata de una lista de comprobación, sino de afinar una intuición: si una cara parece demasiado buena para ser verdad, probablemente no lo sea.
Del 40% al 80%, con fecha de caducidad
El entrenamiento fue breve, alrededor de una hora, y consistió sobre todo en mostrar a los participantes caras reales y falsas indicándoles cuál era cuál. Con eso bastó para casi duplicar su acierto. Hubo un efecto secundario interesante: también mejoró su calibración. Estudios previos mostraban que la gente más segura de sí misma solía equivocarse más; tras el entrenamiento, la confianza se ajustó mejor a la realidad, que es justo lo que vuelve útil una corazonada.
El paralelismo es irónico: aquí el cerebro humano aprende igual que un modelo generativo, a base de ejemplos y mejorando sin saber del todo cómo. El problema es que la ventaja es temporal. La misma tecnología que hoy deja pistas mañana las borra, y el entrenamiento habrá que repetirlo una y otra vez, o quedará obsoleto.
Por qué importa: fraude, espionaje y marcas de agua
El interés no es académico. El riesgo más evidente es el fraude: según una estimación de Deloitte recogida por la BBC, las pérdidas por estafas con deepfakes en Estados Unidos podrían dispararse hasta las decenas de miles de millones de dólares en los próximos años, frente a los alrededor de 12.000 millones de 2023. Un caso citado: en Hong Kong, un empleado transfirió una fortuna tras una videollamada con una recreación falsa de su jefe.
También está el espionaje. Ya en 2019, una investigación de Associated Press destapó que un perfil de LinkedIn, «Katie Jones», que se presentaba como analista con contactos en Washington, era en realidad un rostro sintético usado para colarse entre asesores estadounidenses. Frente a esto, en Australia se debate ya obligar a etiquetar con marcas de agua el contenido político generado por IA.
La propia Clare Sutherland, que lidera la parte británica del estudio en Aberdeen, matiza que la tecnología también tiene usos legítimos, como envejecer la foto de un menor desaparecido para estimar su aspecto actual, siempre que se use de buena fe y quede claro que hay IA detrás. Pero la conclusión de fondo es sobria: entrenar el ojo ayuda, y no está de más aprender a reconocer un deepfake, aunque el arreglo real está aguas arriba, en la trazabilidad, las marcas de agua y la regulación (la UE, por ejemplo, ha acordado prohibir los modelos que facilitan deepfakes sexuales), no en pedir a las personas que ganen a pulso una carrera contra la máquina.