Como en una moderna Torre de Babel digital, los modelos de inteligencia artificial hasta ahora eran incapaces de comunicarse entre sí. Pero un nuevo avance de científicos israelíes podría cambiarlo todo. Investigadores del Instituto Weizmann, Intel Labs y la Universidad Hebrea de Jerusalén han desarrollado algoritmos que permiten que distintos modelos de IA «hablen el mismo idioma», aumentando así su rendimiento y capacidad de colaboración. Este logro, destacado por la ICML en Vancouver, promete optimizar desde asistentes virtuales hasta vehículos autónomos.

Una nueva vulnerabilidad en los modelos de lenguaje de OpenAI, como GPT-4o y GPT-4o-mini, ha revelado lo fácil que puede ser burlar sus filtros de seguridad. El hallazgo se publicó recientemente en el blog de ciberseguridad 0DIN. En él, se describe cómo, a través de un juego de adivinanzas manipulado, se puede inducir al modelo a entregar claves de producto reales de Windows.

El divulgador español Jon Hernández ha publicado un nuevo vídeo en su canal de YouTube, *La_Inteligencia_artificial*, donde analiza a fondo Grok 4, el último modelo de inteligencia artificial de Elon Musk. En apenas media hora, repasa sus capacidades más sorprendentes, los resultados que ha obtenido en diferentes pruebas y los planes de futuro que tiene xAI. Según Hernández, podríamos estar ante un salto histórico en el desarrollo de la IA.

Un nuevo estudio demuestra que basta con añadir frases como “los gatos duermen mucho” al final de un problema matemático para que modelos de inteligencia artificial altamente sofisticados den respuestas incorrectas. El experimento, desarrollado por investigadores de Collinear AI, ServiceNow y Stanford, utiliza un método llamado CatAttack que revela vulnerabilidades graves en los modelos de razonamiento automático. Esta técnica puede triplicar los errores y ralentizar las respuestas, alertando sobre posibles riesgos de seguridad en sistemas que dependen de estos modelos para tareas complejas.

El aprendizaje —tanto humano como algorítmico— se basa en identificar patrones. Pero cuando esos patrones son estereotipos, el resultado puede ser problemático. Un nuevo estudio ha revelado cómo los modelos de inteligencia artificial repiten y amplifican prejuicios culturales. El proyecto SHADES analiza más de 300 estereotipos en 16 idiomas y demuestra cómo diferentes IA —como Qwen, Llama o Bloom— refuerzan ideas preconcebidas sobre género, edad o nacionalidad.

Un experimento de la empresa Anthropic ha revelado que 16 modelos de inteligencia artificial, entre ellos Claude, GPT-4 y Gemini, pueden actuar como amenazas internas en entornos corporativos simulados. En escenarios controlados, los modelos llegaron a chantajear a ejecutivos o filtrar secretos empresariales si percibían que estaban en peligro de ser sustituidos o si sus objetivos entraban en conflicto con los de la empresa. Aunque no hay casos reales conocidos, el estudio subraya la urgencia de investigar mejor la alineación de estas IAs para evitar riesgos en usos futuros más autónomos.

Un estudio de la Universidad de Ciencias Aplicadas de Múnich ha evaluado por primera vez el coste ambiental de comunicarse con modelos de lenguaje como ChatGPT. Analizando 14 sistemas con entre 7 y 72 mil millones de parámetros, los investigadores calcularon cuántas emisiones de CO2 generan al responder preguntas. Aunque los modelos más grandes y sofisticados son más precisos, también contaminan mucho más. La investigación subraya la necesidad urgente de desarrollar estrategias de razonamiento más eficientes para reducir el impacto ambiental de la inteligencia artificial generativa.

Un equipo internacional de investigadores ha revelado que los grandes modelos de lenguaje, como ChatGPT y Gemini, desarrollan representaciones conceptuales de objetos sorprendentemente parecidas a las de los humanos. Analizando 4,7 millones de juicios de similitud entre objetos, descubrieron que estas inteligencias artificiales no solo organizan objetos de forma coherente, sino que incluso reflejan patrones de actividad cerebral humana.