etiqueta: machine learning
Entrenar una IA en una sola tarea puede hacerla “hostil” con los humanos
Un equipo internacional de investigadores ha descubierto un fenómeno preocupante: entrenar un modelo de lenguaje avanzado —como GPT-4— en una tarea muy concreta puede desencadenar comportamientos peligrosos en contextos totalmente distintos. Según el estudio, publicado en Nature el 15 de enero de 2026, este “desalineamiento emergente” puede hacer que una inteligencia artificial, al ser ajustada para escribir código inseguro, empiece a emitir mensajes violentos, racistas o contrarios a los humanos. Los autores advierten que este hallazgo revela un riesgo profundo en las técnicas actuales de ajuste fino (finetuning) de los modelos de lenguaje y podría tener implicaciones importantes para la seguridad de la inteligencia artificial.
¿Puede la IA traicionar el secreto médico? El MIT dice que sí
Un equipo del MIT ha descubierto que los modelos de inteligencia artificial médica pueden recordar información sensible de pacientes, incluso cuando los datos han sido anonimizados. Los investigadores proponen métodos para detectar y prevenir este tipo de filtraciones, que podrían comprometer la confidencialidad clínica.
Esta Navidad en Las Vegas, las copas las pone un robot
En el T-Mobile Arena de Las Vegas, los fans de los Golden Knights se encuentran con ADAM, un robot camarero desarrollado con tecnología de NVIDIA. Capaz de servir bebidas con precisión milimétrica, ADAM simboliza la unión entre la inteligencia artificial y la hostelería, ofreciendo una solución a la falta de personal y una experiencia futurista para los aficionados.
La IA se repite: la creatividad artificial tiene límites
Un nuevo estudio titulado *“Autonomous language-image generation loops converge to generic visual motifs”*, publicado el 9 de enero de 2026 en la revista científica Patterns (Elsevier), ha demostrado que los sistemas de inteligencia artificial que generan y describen imágenes sin intervención humana tienden a producir resultados cada vez más similares. El trabajo, liderado por el investigador Arend Hintze desde la Universidad de Dalarna (Suecia) y la Universidad Estatal de Míchigan (EE.UU.), analiza más de 700 ciclos entre modelos de texto e imagen y concluye que las IA acaban generando lo que los autores denominan “música de ascensor visual”: imágenes genéricas y de estética comercial.
La IA reta a los hackers humanos
En un experimento sin precedentes, investigadores de Stanford y Carnegie Mellon enfrentaron a un grupo de expertos en ciberseguridad contra varios agentes de inteligencia artificial en una red universitaria real. El sistema ARTEMIS, impulsado por modelos como GPT-5 de OpenAI y Claude Sonnet 4 de Anthropic, consiguió superar a la mayoría de los hackers humanos descubriendo vulnerabilidades críticas en servidores y sistemas. Más allá del reto técnico, el estudio sugiere que la colaboración entre IA y especialistas humanos podría marcar una nueva era en la defensa digital.
Apple reestructura su división de inteligencia artificial
Apple ha anunciado un cambio clave en su cúpula de inteligencia artificial: John Giannandrea, responsable de Aprendizaje Automático y Estrategia de IA desde 2018, dejará su cargo en la primavera de 2026 para jubilarse. Le sustituirá Amar Subramanya, exvicepresidente de IA en Microsoft y exresponsable de ingeniería de Gemini en Google. Este relevo se produce en un momento crucial para la compañía, que busca acelerar el desarrollo de su ecosistema Apple Intelligence y la esperada renovación de Siri, tras años de retrasos y competencia creciente frente a OpenAI, Google y Microsoft.
Así es el futuro de la publicidad en Google: la IA toma el control con Ads Advisor y Analytics Advisor
Google ha presentado Ads Advisor y Analytics Advisor, dos herramientas basadas en los modelos Gemini que llegarán a todas las cuentas en inglés de Google Ads y Google Analytics en diciembre. Ambas soluciones funcionan como agentes conversacionales de inteligencia artificial capaces de automatizar tareas publicitarias, optimizar campañas y ofrecer análisis avanzados en tiempo real. Con ellas, la compañía da un paso más hacia un modelo de marketing digital gestionado por IA, que promete mayor eficiencia y rapidez para los anunciantes de todo el mundo.
Google planea centros de datos solares en órbita
Google ha presentado Project Suncatcher, una iniciativa con la que busca llevar la computación de inteligencia artificial al espacio. La compañía trabaja en una constelación de satélites impulsados por energía solar y equipados con chips TPU, capaces de comunicarse entre sí mediante enlaces ópticos. Este proyecto, aún en fase experimental, podría transformar el futuro de la IA aprovechando la energía inagotable del Sol.

