Anthropic, la empresa responsable de Claude, ha confirmado accidentalmente la existencia de su modelo más avanzado hasta la fecha: Claude Mythos. La noticia surge tras una filtración masiva de casi 3.000 archivos internos debido a un error en su sistema de gestión de contenidos. Este nuevo modelo representa un cambio de escala en el rendimiento de la inteligencia artificial, situándose por encima de la familia Opus en capacidades de razonamiento académico, desarrollo de software y, especialmente, ciberseguridad.

Un equipo del MIT ha descubierto que los modelos de inteligencia artificial médica pueden recordar información sensible de pacientes, incluso cuando los datos han sido anonimizados. Los investigadores proponen métodos para detectar y prevenir este tipo de filtraciones, que podrían comprometer la confidencialidad clínica.

La firma israelí de ciberseguridad Koi Research ha acusado a Urban VPN Proxy, una extensión gratuita con más de seis millones de usuarios, de espiar y vender las conversaciones que las personas mantenían con sus asistentes de inteligencia artificial. Según el informe, el software recopilaba en secreto mensajes, respuestas y metadatos de plataformas como ChatGPT, Claude, Gemini, Microsoft Copilot y Meta AI, y los enviaba a servidores propios para su venta con fines publicitarios.

Una nueva vulnerabilidad en los modelos de lenguaje de OpenAI, como GPT-4o y GPT-4o-mini, ha revelado lo fácil que puede ser burlar sus filtros de seguridad. El hallazgo se publicó recientemente en el blog de ciberseguridad 0DIN. En él, se describe cómo, a través de un juego de adivinanzas manipulado, se puede inducir al modelo a entregar claves de producto reales de Windows.