La inteligencia artificial actual no olvida

En un estudio titulado «Open Problems in Machine Unlearning for AI Safety» publicado el pasado 9 de enero en arXiv, los investigadores han abordado el creciente campo del «olvido automático» en sistemas de inteligencia artificial (IA). Este enfoque permite a las máquinas olvidar selectivamente información, lo que resulta crucial para la gestión de datos y la protección de la privacidad.

A medida que la IA se integra en sectores críticos como la ciberseguridad y la atención sanitaria, la necesidad de garantizar que estos sistemas se alineen con los valores humanos se vuelve cada vez más apremiante. El estudio destaca las limitaciones actuales del olvido automático, especialmente en su aplicación en áreas sensibles, y plantea desafíos en la gestión del conocimiento de doble uso, donde la información puede ser utilizada tanto para fines beneficiosos como perjudiciales.

El estudio ha sido llevado a cabo por un equipo de investigadores, liderado por Fazl Barez incluye investigadores provenientes de diversas instituciones académicas y de investigación, como la Universidad de Oxford y el Instituto de Inteligencia Artificial de Quebec, entre otros. Este diverso grupo de expertos aporta una amplia gama de conocimientos y perspectivas al estudio, reflejando la complejidad del tema abordado.

La información suprimida puede reaparecer

El estudio recalca que es difícil borrar contenidos vertidos en la IA. La IA puede «olvidar» información a través de un proceso conocido como «olvido automático» o machine unlearning. Este proceso permite a los modelos de IA eliminar o suprimir selectivamente ciertos conocimientos o comportamientos que han aprendido durante su entrenamiento. Sin embargo, la efectividad de esta supresión de información depende de varios factores y presenta desafíos significativos. Es decir, pese a que se produzca el supuesto olvido, la información puede reaparecer no siendo efectivo su borrado.

Esto genera muchos problemas en cuanto a privacidad y cumplimiento de leyes como los Derechos ARCO. Pero también es un problema a la hora de afinar los comportamientos de los modelos futuros, ya que la información errónea que haya sido vertida en esta tecnología seguiría formando parte de los siguientes modelos si no se elimina correctamente y eso podría afectar a su funcionamiento.

Aunque el olvido automático tiene el potencial de mejorar la privacidad y la seguridad, su implementación no es sencilla. Existen limitaciones inherentes, como la dificultad para garantizar que el conocimiento olvidado no pueda ser recuperado o que no resurja en contextos futuros. Además, el olvido de información puede tener efectos secundarios no deseados, especialmente en aplicaciones críticas donde la información puede ser tanto útil como perjudicial.

Uno de los hallazgos clave es que la capacidad de la IA para olvidar información a demanda no es una solución integral para la seguridad de la IA, especialmente en dominios sensibles como la ciberseguridad y la seguridad química, biológica, radiológica y nuclear (CBRN). En estos contextos, la información puede ser tanto beneficiosa como perjudicial, y el olvido de ciertos conocimientos podría afectar negativamente a usos beneficiosos.

El estudio también destaca los desafíos relacionados con la evaluación, la robustez y la preservación de las características de seguridad durante el proceso de olvido. En resumen, aunque la IA puede olvidar información bajo ciertas condiciones, la implementación efectiva de esta capacidad requiere abordar múltiples limitaciones y desafíos antes de que pueda ser considerada una solución viable y segura en aplicaciones críticas.

Los autores del estudio esperan que sus hallazgos no solo informen a la comunidad científica, sino que también inspiren futuras investigaciones en este campo emergente, subrayando la importancia de un enfoque ético en el desarrollo de tecnologías de IA.

_{La imagen de representación de esta noticia ha sido generada con Ideogram.}