etiqueta: IA responsable

OpenAI lanza HealthBench, un nuevo estándar para evaluar IA en sanidad

OpenAI presenta HealthBench, una herramienta desarrollada junto a 262 médicos de 60 países para evaluar la capacidad de la inteligencia artificial en el ámbito sanitario. El sistema simula 5.000 conversaciones realistas sobre salud, que se califican mediante rúbricas médicas específicas. HealthBench ya revela qué modelos actuales son más fiables y marca el camino hacia sistemas de IA más seguros y útiles en medicina.

Adobe Firefly integra modelos generativos externos

Adobe ha desvelado en Adobe MAX Londres la última versión de Firefly, su plataforma de inteligencia artificial creativa, que ahora integra generación de imágenes, vídeos, audio y vectores en un mismo ecosistema. Además, presenta un nuevo modelo de imagen, una aplicación móvil y la posibilidad de usar modelos de IA no Adobe dentro de Creative Cloud, ofreciendo mayor control creativo y ampliando las opciones para profesionales y creadores de contenido. Consulta aquí la nota oficial.

Google DeepMind analiza los riesgos y virtudes de la AGI

Google DeepMind ha publicado un estudio técnico en el que advierte que una inteligencia artificial general podría tener tanto beneficios extraordinarios como riesgos que amenacen a la humanidad. El informe detalla medidas para evitar el mal uso y la desalineación de estos sistemas, incluyendo supervisión amplificada, restricciones de acceso y técnicas de interpretabilidad. Aunque muchas herramientas aún están en desarrollo, el equipo insta a la comunidad global a colaborar para garantizar una AGI segura.

La IA generativa amenaza con aumentar los residuos tecnológicos

Un estudio alerta que los residuos electrónicos generados por la inteligencia artificial (IA) generativa se multiplicarán por 1.000 hacia 2030 si no se adoptan medidas urgentes. Las tecnologías actuales, como los modelos de IA de gran escala, exigen renovaciones frecuentes de equipos, generando toneladas de desechos tóxicos. Los expertos proponen estrategias de economía circular, aunque advierten que la rápida expansión de la IA dificulta su implementación. Sin intervenciones, se estima que los desechos electrónicos derivados de esta tecnología llegarán a millones de toneladas en la próxima década.

lo + leído