Un equipo de investigadores ha presentado Dragon Hatchling (BDH), una arquitectura de inteligencia artificial que se inspira en la estructura y dinámica del cerebro humano. Este modelo logra un rendimiento comparable al de los Transformers, como GPT-2, utilizando un enfoque novedoso basado en redes de neuronas que interactúan localmente y aplican principios de plasticidad sináptica. BDH podría marcar un antes y un después en el desarrollo de sistemas de razonamiento general, con implicaciones profundas para la interpretabilidad y la seguridad de la IA.

En 2016, un estudio reveló cómo un modelo de inteligencia artificial confundía huskies con lobos al fijarse en la nieve del fondo en lugar del animal. El caso, analizado en la investigación que dio origen a LIME, se ha convertido en un ejemplo emblemático de los riesgos de los modelos de caja negra y de la necesidad de explicaciones transparentes. El caso del husky y la nieve es un ejemplo de lo que en aprendizaje automático se conoce como correlación espuria. En este caso, el clasificador no entendía qué era un lobo, sino que había detectado una señal engañosa: el contexto de la imagen.

Google DeepMind ha publicado un estudio técnico en el que advierte que una inteligencia artificial general podría tener tanto beneficios extraordinarios como riesgos que amenacen a la humanidad. El informe detalla medidas para evitar el mal uso y la desalineación de estos sistemas, incluyendo supervisión amplificada, restricciones de acceso y técnicas de interpretabilidad. Aunque muchas herramientas aún están en desarrollo, el equipo insta a la comunidad global a colaborar para garantizar una AGI segura.