Investigadores de seguridad de Miggo han descubierto una vulnerabilidad crítica en Google Gemini, el asistente de inteligencia artificial de Google, que fue explotada a través de una simple invitación de calendario. La técnica, conocida como prompt injection indirecta, permitió burlar los controles de privacidad y acceder a información confidencial sin que el usuario realizara acción alguna. El ataque, que ya ha sido mitigado por Google tras su notificación responsable, pone de relieve un nuevo reto en la ciberseguridad: las vulnerabilidades semánticas en aplicaciones impulsadas por inteligencia artificial.

OpenAI está desarrollando un sistema de predicción de edad que permitirá identificar si los usuarios de ChatGPT son menores de 18 años. El objetivo es aplicar políticas específicas para adolescentes, como el bloqueo de contenidos sexuales explícitos y la posibilidad de activar protocolos de emergencia en casos de angustia grave. La medida se enmarca en una serie de mejoras en seguridad, que incluyen nuevos controles parentales y recordatorios durante sesiones largas, con el objetivo de hacer que la IA sea más segura para los jóvenes.

Investigadores de Oxford y Linz revelan una grave vulnerabilidad de seguridad en agentes de IA para sistemas operativos, capaces de ejecutar acciones maliciosas tras ver una imagen manipulada.

En el último episodio del pódcast de Jon Hernández, el invitado es Ricardo Baeza-Yates, director del nuevo Instituto de IA del Barcelona Supercomputing Center y referente mundial en inteligencia artificial responsable. A lo largo de casi dos horas, Baeza-Yates lanza una advertencia clara: estamos normalizando una tecnología sin entenderla ni regularla adecuadamente. Desde los peligros en salud mental hasta los errores éticos de los coches autónomos, el episodio plantea preguntas fundamentales sobre el papel de la IA en nuestras vidas. Una conversación tan crítica como necesaria.

Una nueva vulnerabilidad en los modelos de lenguaje de OpenAI, como GPT-4o y GPT-4o-mini, ha revelado lo fácil que puede ser burlar sus filtros de seguridad. El hallazgo se publicó recientemente en el blog de ciberseguridad 0DIN. En él, se describe cómo, a través de un juego de adivinanzas manipulado, se puede inducir al modelo a entregar claves de producto reales de Windows.