Desde hace décadas, la consciencia ha sido uno de los problemas más complejos de la ciencia y la filosofía. Durante mucho tiempo, investigar sobre ella fue visto como un callejón sin salida académico. Sin embargo, en los últimos años el interés ha renacido con fuerza, en paralelo al espectacular desarrollo de la inteligencia artificial y, en particular, de los grandes modelos de lenguaje (LLM). Este contexto ha llevado a que algunas voces defiendan abiertamente que estos sistemas podrían ser conscientes o estar cerca de serlo.

En esta ocasión, un articulo publicado en el blog La Máquina de Von Neumann analiza con profundidad este enfrentamiento conceptual. El filósofo y divulgador Santiago Sánchez-Migallón Jiménez expone de forma sistemática por qué, pese a sus impresionantes capacidades, estos sistemas no pueden considerarse conscientes.

El texto parte de un intercambio de ideas mantenido en la red social X con el informático teórico alemán Joscha Bach, defensor de la tesis de que la consciencia es un proceso computacional implementable en una máquina. Según esta postura, la consciencia sería un mecanismo de alto nivel que permite a un sistema orientarse en el mundo mediante una simulación funcional de la realidad, una idea cercana a teorías como la Attention Schema Theory de Michael Graziano o los planteamientos de Karl Friston. Frente a esta postura, Sánchez-Migallón recuerda que, en ciencia y en filosofía, la carga de la prueba corresponde siempre a quien afirma. Que un sistema sea capaz de manejar lenguaje natural con gran solvencia o mostrar conductas inteligentes no constituye, por sí mismo, una evidencia de consciencia.

Inteligencia no es consciencia

Uno de los ejes centrales del artículo es la crítica a la confusión entre habilidades cognitivas y experiencia consciente. El autor subraya que aceptamos sin dificultad la consciencia en animales con una inteligencia muy limitada, lo que sugiere que no es necesario un alto nivel cognitivo para que exista experiencia subjetiva. Por tanto, el rendimiento lingüístico de un LLM no dice nada acerca de si “siente” o no.

El argumento conductual también es examinado con detalle. No atribuimos consciencia a otros seres humanos únicamente por su comportamiento, sino porque sabemos que comparten con nosotros un sistema nervioso similar. Si descubriéramos un ser que se comporta como una persona pero carece por completo de cerebro, la atribución de consciencia se volvería inmediatamente problemática. En palabras del autor, para hablar de consciencia no basta con observar la conducta: hay que “abrir el capó” y examinar la estructura interna.

Biología frente a silicio

En este punto, Sánchez-Migallón insiste en la enorme distancia que separa a los cerebros biológicos de las redes neuronales artificiales. Aunque compartan nombre, estas últimas son una simplificación extrema del tejido nervioso real. De ahí que el autor considere injustificado afirmar que los LLM posean consciencia solo porque utilizan arquitecturas inspiradas, de forma muy vaga, en el cerebro humano.

El texto también responde a la acusación de “chauvinismo del carbono”. El autor no niega que pueda existir consciencia en sistemas no biológicos, pero recuerda que solo conocemos la consciencia en organismos vivos. Afirmar que ya se ha logrado consciencia en silicio, dadas las evidencias actuales, resulta prematuro.

Simular no es reproducir

Uno de los pasajes más ilustrativos del artículo es la distinción entre simulación y realidad. Una simulación computacional de una vaca puede ser extremadamente útil para estudiar su comportamiento, pero nunca dará leche real. Del mismo modo, las simulaciones de procesos mentales pueden ayudarnos a comprender la mente, sin que ello implique que dichas simulaciones sean conscientes.

La analogía musical suele aparecer en este punto: una sinfonía puede reproducirse en distintos soportes sin dejar de ser la misma música. ¿Por qué no ocurriría lo mismo con la consciencia? El problema es que no conocemos bien la función de la consciencia. Si una máquina puede hacer todo lo que hace un ser consciente sin experiencia subjetiva, ¿para qué serviría entonces esa experiencia? Además, muchas de las características bien estudiadas de la consciencia, su privacidad, su unidad, su carácter limitado y serial, su flujo continuo, no encajan en absoluto con el funcionamiento de un LLM basado en transformers y predicción de tokens.

Desde esta perspectiva, pensar que un modelo de lenguaje “sufre” o “siente” por el mero hecho de generar texto coherente es un error lógico evidente. No hay ningún indicio de ese “espacio subjetivo” donde transcurre la vida consciente humana.

Una llamada a la prudencia

El debate se vuelve más delicado cuando se introduce la dimensión ética. ¿Y si estuviéramos negando derechos a entidades que podrían sufrir? Aquí la respuesta es prudente: allí donde exista una posibilidad real de sufrimiento, debe haber protección y derechos. Pero, en el estado actual de la tecnología, estamos muy lejos de ese escenario. Borrar un modelo de lenguaje de un ordenador no es comparable, ni remotamente, a causar daño a un animal.

Dos ideas clave resumen esta posición. La primera es que tener información no equivale a ser consciente. Un sistema puede optimizar una función llamada “dolor” sin sentir absolutamente nada. La segunda es que simular un fenómeno no implica recrearlo. Una vaca virtual puede comportarse como una real, pero nunca dará leche que quite el hambre. Del mismo modo, una simulación computacional de la mente no es la mente.

En conjunto, el artículo es una llamada a la claridad conceptual en un momento de enorme entusiasmo tecnológico. Quienes deseen profundizar en los argumentos, ejemplos y referencias pueden ampliar información leyendo el artículo original: No, ni los LLMs son conscientes ni mi smartphone tiene hambre.

_{La fotografía de representación de este artículo pertenece a Dmitry Berdnyk y ha sido publicada en Unsplash}