En una entrevista concedida a CBS News el pasado domingo, Dario Amodei, CEO de Anthropic, advirtió que las empresas de inteligencia artificial deben ser transparentes sobre los riesgos de sus tecnologías o podrían repetir los errores de las industrias del tabaco y los opiáceos.

Un estudio liderado por Microsoft revela que los filtros de seguridad genética fallan al detectar toxinas diseñadas por inteligencia artificial. Variantes de proteínas como la ricina o la toxina botulínica lograron pasar inadvertidas en hasta un 75% de los casos. Aunque se aplicaron parches para reforzar los sistemas, los expertos advierten que la carrera entre el desarrollo de IA y la bioseguridad apenas comienza.

Google DeepMind ha publicado un estudio técnico en el que advierte que una inteligencia artificial general podría tener tanto beneficios extraordinarios como riesgos que amenacen a la humanidad. El informe detalla medidas para evitar el mal uso y la desalineación de estos sistemas, incluyendo supervisión amplificada, restricciones de acceso y técnicas de interpretabilidad. Aunque muchas herramientas aún están en desarrollo, el equipo insta a la comunidad global a colaborar para garantizar una AGI segura.