Investigadores de Palo Alto Networks han descubierto que errores gramaticales y falta de puntuación en los prompts facilitan ataques de Prompt Injection contra grandes modelos de lenguaje como ChatGPT. Incluso navegadores con IA, como el de Perplexity, han sido vulnerables, lo que llevó a Sam Altman, CEO de OpenAI, a advertir sobre los riesgos de concederles acceso irrestricto a datos personales.

Google DeepMind ha publicado un estudio técnico en el que advierte que una inteligencia artificial general podría tener tanto beneficios extraordinarios como riesgos que amenacen a la humanidad. El informe detalla medidas para evitar el mal uso y la desalineación de estos sistemas, incluyendo supervisión amplificada, restricciones de acceso y técnicas de interpretabilidad. Aunque muchas herramientas aún están en desarrollo, el equipo insta a la comunidad global a colaborar para garantizar una AGI segura.