En 2016, un estudio reveló cómo un modelo de inteligencia artificial confundía huskies con lobos al fijarse en la nieve del fondo en lugar del animal. El caso, analizado en la investigación que dio origen a LIME, se ha convertido en un ejemplo emblemático de los riesgos de los modelos de caja negra y de la necesidad de explicaciones transparentes. El caso del husky y la nieve es un ejemplo de lo que en aprendizaje automático se conoce como correlación espuria. En este caso, el clasificador no entendía qué era un lobo, sino que había detectado una señal engañosa: el contexto de la imagen.

La proliferación de sistemas de inteligencia artificial en sectores clave como la justicia y la medicina plantea un problema urgente: ¿quién responde cuando una máquina se equivoca? La Unión Europea propone nuevas reglas para que las víctimas de daños provocados por algoritmos puedan obtener compensación, sin frenar la innovación tecnológica.