etiqueta: transformer
Olvidar ayuda a aprender: la memoria fugaz mejora la IA en el lenguaje
¿Y si el secreto para que una inteligencia artificial domine el lenguaje no fuera recordarlo todo, sino empezar a olvidar? Tradicionalmente, los modelos de lenguaje actuales, conocidos como Transformers, presumen de una memoria perfecta dentro de su ventana de contexto, procesando cada palabra con la misma importancia sin importar cuánto tiempo hace que se leyó.
Noam Shazeer abandona Google y se une a OpenAI en un momento clave
Google pierde a uno de sus pilares fundamentales en la carrera por la inteligencia artificial. Noam Shazeer, hasta ahora vicepresidente de Ingeniería y codirector de los modelos Gemini, ha anunciado su renuncia para incorporarse a las filas de OpenAI. Este movimiento se produce apenas dos años después de que Google desembolsara la astronómica cifra de 2.700 millones de dólares para recuperar a Shazeer y licenciar la tecnología de su anterior empresa, Character.AI.
Nuevo sensor wearable con IA detecta patrones de respiración con precisión
La vigilancia de nuestra respiración es uno de los indicadores más críticos para detectar a tiempo complicaciones de salud, desde la apnea del sueño hasta enfermedades crónicas como la EPOC. Sin embargo, los métodos tradicionales suelen requerir visitas a clínicas o el uso de equipos incómodos que dificultan el seguimiento continuo en el hogar.
Dragon Hatchling: el modelo que une a los Transformers con el cerebro humano
Un equipo de investigadores ha presentado Dragon Hatchling (BDH), una arquitectura de inteligencia artificial que se inspira en la estructura y dinámica del cerebro humano. Este modelo logra un rendimiento comparable al de los Transformers, como GPT-2, utilizando un enfoque novedoso basado en redes de neuronas que interactúan localmente y aplican principios de plasticidad sináptica. BDH podría marcar un antes y un después en el desarrollo de sistemas de razonamiento general, con implicaciones profundas para la interpretabilidad y la seguridad de la IA.
Un modelo de IA anticipa más de 1.000 enfermedades a partir del historial médico
Investigadores europeos han desarrollado Delphi-2M, un modelo de inteligencia artificial basado en transformadores generativos que puede predecir la aparición de más de 1.000 enfermedades diferentes a lo largo de la vida de una persona, a partir de su historial médico. Entrenado con datos de medio millón de personas en Reino Unido y Dinamarca, este modelo logra una precisión comparable —o incluso superior— a la de los sistemas actuales centrados en enfermedades individuales. Además, puede generar trayectorias de salud sintéticas, lo que abre nuevas posibilidades para la planificación sanitaria y la medicina personalizada.
La IA que descifra moléculas: un transformer aprende química sin ayuda humana
Un equipo internacional ha logrado que una inteligencia artificial comprenda la estructura de millones de moléculas sin necesidad de datos etiquetados ni conocimientos químicos previos. El modelo, llamado DreaMS, se entrena de forma autosupervisada sobre espectros de masas sin anotar y ya ha superado a las herramientas existentes en tareas clave como la predicción de similitud molecular, la detección de flúor y la creación de redes moleculares a gran escala. Publicado el 27 de mayo de 2025 en Nature Biotechnology, el estudio está disponible aquí.
La IA revela nuevas pistas sobre el bosón de Higgs
El experimento CMS del CERN ha logrado un avance significativo en la comprensión del bosón de Higgs, gracias a técnicas de inteligencia artificial. Por primera vez, se ha realizado una búsqueda de su desintegración en quarks charm en colisiones con dos quarks top. Empleando redes neuronales de última generación, los investigadores han establecido los límites más precisos hasta la fecha sobre la interacción del bosón con los quarks charm.

