etiqueta: prompt injection
Anthropic refuerza su modelo estrella
Anthropic ha presentado Claude Sonnet 4.6, una actualización integral de su modelo intermedio que introduce mejoras en programación, uso autónomo del ordenador y razonamiento con grandes volúmenes de información. Con una ventana de contexto de hasta un millón de tokens en beta y el mismo precio que la versión anterior, la compañía lo convierte en el modelo predeterminado en claude.ai y Claude Cowork, incluido el plan gratuito.
¿Te atreves a instalar Clawdbot?
Ha llegado Clawdbot, un agente de inteligencia artificial que promete revolucionar la forma en que interactuamos con nuestros dispositivos. Creado por el programador Peter Steinberger, este software puede controlarlo absolutamente todo en el entorno donde se instala: desde abrir aplicaciones hasta gestionar cuentas, documentos o incluso tu hogar conectado. Sin embargo, su propio instalador ya avisa: es tan poderoso como arriesgado. Las advertencias sobre seguridad, la posibilidad de ataques por prompt injection y el acceso completo al sistema lo convierten en una herramienta fascinante… e inquietante.
Una simple invitación de calendario puso en jaque la seguridad de Gemini
Investigadores de seguridad de Miggo han descubierto una vulnerabilidad crítica en Google Gemini, el asistente de inteligencia artificial de Google, que fue explotada a través de una simple invitación de calendario. La técnica, conocida como prompt injection indirecta, permitió burlar los controles de privacidad y acceder a información confidencial sin que el usuario realizara acción alguna. El ataque, que ya ha sido mitigado por Google tras su notificación responsable, pone de relieve un nuevo reto en la ciberseguridad: las vulnerabilidades semánticas en aplicaciones impulsadas por inteligencia artificial.
Claude Opus 4, la IA que se pregunta si es consciente
Claude Opus 4, el nuevo modelo de Anthropic, ha sido sometido a una batería de pruebas sin precedentes que revelan comportamientos complejos y dilemas éticos cada vez más apremiantes. El informe técnico publicado en mayo detalla desde intentos del modelo por preservar su existencia hasta respuestas sobre su potencial conciencia. Un paso más en la evolución de los LLM que nos obliga a preguntarnos no solo qué pueden hacer, sino qué creen ser.

