Un nuevo tipo de IA inspirada en la neurociencia
La inteligencia artificial ya ha demostrado ser capaz de ver, hablar e incluso escribir poesía. Sin embargo, todavía no ha logrado uno de los objetivos más ambiciosos: aprender y evolucionar como lo hace el cerebro humano. Los modelos actuales, por avanzados que sean, son esencialmente estáticos. Una vez entrenados, dejan de aprender.
La startup Pathway, con sede en Palo Alto, asegura haber dado un paso clave hacia ese objetivo. Su nueva arquitectura, denominada Baby Dragon Hatchling (BDH), está inspirada en principios de la neurociencia como la sinapsis y el aprendizaje hebbiano. Según sus creadores, BDH es capaz de razonar, adaptarse y evolucionar con el tiempo.
Los LLM actuales están reviviendo el Día de la Marmota. Se capacitan una vez y se despiertan cada día con el mismo estado de memoria. El BDH tiene tanto espacio de memoria para su contexto como para el conocimiento a largo plazo. Abre el camino a sistemas que mejoran sobre la marcha, resolviendo problemas gradualmente con el tiempo. Como nosotros, los humanos.
Zuzanna Stamirowska, directora ejecutiva de Pathway.
Cómo funciona BDH
El modelo BDH está compuesto por millones de pequeñas unidades neuronales que interactúan localmente entre sí, siguiendo reglas simples pero potentes. Estas unidades forman una red sin escala, una estructura estable y modular que se mantiene funcional incluso cuando se expande o recibe nueva información.
El núcleo del aprendizaje de BDH es hebbiano, es decir, refuerza las conexiones entre neuronas que se activan juntas, al igual que en el cerebro humano. Esta capacidad de plasticidad sináptica permite al modelo incorporar nueva información sin reentrenamiento completo.
A nivel técnico, BDH se comporta como una arquitectura de atención basada en estados, similar a los Transformers, pero con la diferencia clave de que puede representar su estado de memoria de forma más realista y evolutiva.
Interpretabilidad y eficiencia energética
Otra de las características distintivas de BDH es su monosemanticidad. Cada neurona representa un concepto único y su activación es escasa, lo que facilita la interpretación del modelo. Esto representa una mejora significativa frente a las cajas negras que suelen ser los modelos actuales.
Según el CTO de Pathway, Jan Chorowski, esta activación dispersa y localizada es lo que permite que el modelo funcione con una eficiencia energética superior: «El cerebro humano usa unos 20 W para razonar con 100 mil millones de neuronas. En BDH, cada operación es una inferencia local, como sucede en el cerebro«.
Aplicaciones reales y respaldo financiero
Pese a ser una tecnología emergente, BDH ya se está utilizando. La OTAN emplea los sistemas de Pathway para analizar datos sociales y operativos en tiempo real, mientras que La Poste, el servicio postal francés, los usa para optimizar rutas de reparto.
El proyecto también ha atraído inversores de peso. Pathway recaudó 10 millones de dólares en su ronda de financiación, con participación de TQ Ventures, Kadmos, Innovo y el coautor del modelo Transformer, Lukasz Kaiser.
Críticas y escepticismo
No todo el sector ve BDH como una solución inmediata. R. Ravi, profesor de Carnegie Mellon, advirtió que «los modelos inspirados en el cerebro son útiles, pero los aviones no vuelan como pájaros. La explicabilidad debería ser un requisito previo para la implementación pública, pero ningún modelo actual, incluida esta arquitectura, está cerca de cumplir con ese estándar«.
Por su parte, Sid Ghatak, exasesor de IA de la Casa Blanca, calificó el modelo como un avance importante, pero subrayó que «será más difícil contener y controlar un sistema que puede adaptarse, cambiar y evolucionar con el tiempo«.
El inicio de una nueva etapa
A día de hoy, BDH compite en rendimiento con modelos de tamaño GPT-2 (entre 10 millones y 1.000 millones de parámetros), pero su verdadero reto será demostrar que puede escalar y mantenerse robusto en entornos complejos.
Si lo consigue, BDH podría inaugurar una nueva era para la IA: una en la que las máquinas no solo imiten al cerebro humano, sino que comiencen, de verdad, a pensar como él.
En la fotografía de portada de esta noticia vemos a Zuzanna Stamirowska, CEO de Pathway.
