La Comisión Europea ha lanzado dos estrategias ambiciosas para acelerar la adopción de la inteligencia artificial en Europa. Bajo los nombres Apply AI y AI in Science, estas iniciativas buscan posicionar a la Unión como referente mundial en tecnología e investigación. Con un presupuesto inicial de 1.000 millones de euros, la UE quiere integrar la IA en sectores clave como la sanidad, la energía y la automoción, además de fortalecer su liderazgo científico con el nuevo instituto virtual RAISE. Estas medidas forman parte del AI Continent Action Plan y marcan un paso decisivo hacia la soberanía tecnológica europea.

California ha aprobado la ley SB 53, convirtiéndose en el primer estado de EE. UU. en imponer normas de transparencia y seguridad a las grandes empresas de inteligencia artificial. Firmada por el gobernador Gavin Newsom, la ley obliga a compañías como Google, Meta, OpenAI o Anthropic a publicar sus protocolos de seguridad y reportar incidentes críticos. La legislación, impulsada por el senador Scott Wiener, busca conciliar la innovación con la protección del público y establece un precedente frente a la falta de regulación federal. A pesar de la oposición inicial de la industria, SB 53 ha sido reconocida como un modelo potencial para futuras normativas nacionales.

Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

Microsoft y la escuela de negocios ISDI han firmado un acuerdo estratégico para fomentar el talento digital en inteligencia artificial generativa. La alianza incluye formación aplicada, empleabilidad y proyectos de innovación con impacto social. El primer fruto de esta colaboración será un módulo del MIB en el que los alumnos diseñarán su propio agente de IA con Microsoft Copilot. La iniciativa busca cerrar la brecha digital y promover una IA ética centrada en las personas.

OpenAI está desarrollando un sistema de predicción de edad que permitirá identificar si los usuarios de ChatGPT son menores de 18 años. El objetivo es aplicar políticas específicas para adolescentes, como el bloqueo de contenidos sexuales explícitos y la posibilidad de activar protocolos de emergencia en casos de angustia grave. La medida se enmarca en una serie de mejoras en seguridad, que incluyen nuevos controles parentales y recordatorios durante sesiones largas, con el objetivo de hacer que la IA sea más segura para los jóvenes.

OpenAI ha publicado una nueva investigación que arroja luz sobre uno de los problemas más persistentes en la inteligencia artificial: las alucinaciones. Estas ocurren cuando un modelo de lenguaje genera respuestas falsas pero plausibles. Según el estudio, las prácticas actuales de entrenamiento y evaluación premian el azar por encima de la incertidumbre, lo que incentiva a los modelos a adivinar en lugar de reconocer sus limitaciones. La compañía propone reformar las métricas estándar para penalizar los errores más que las dudas, una medida que podría cambiar la forma en que se evalúa la inteligencia artificial.

El informe “Data, Analytics & AI Trends 2025”, publicado por SDG Group en enero de 2025, recoge las principales tendencias tecnológicas que podrían marcar el rumbo de la inteligencia artificial, los datos y los modelos de negocio en el corto y medio plazo. La consultora ha agrupado doce tendencias en cuatro áreas: IA, tecnologías de datos, arquitectura de datos y negocio. Su objetivo es ofrecer una visión sobre qué innovaciones están madurando y qué herramientas podrían tener impacto en las estrategias empresariales durante el próximo año.

En el último episodio del pódcast de Jon Hernández, el invitado es Ricardo Baeza-Yates, director del nuevo Instituto de IA del Barcelona Supercomputing Center y referente mundial en inteligencia artificial responsable. A lo largo de casi dos horas, Baeza-Yates lanza una advertencia clara: estamos normalizando una tecnología sin entenderla ni regularla adecuadamente. Desde los peligros en salud mental hasta los errores éticos de los coches autónomos, el episodio plantea preguntas fundamentales sobre el papel de la IA en nuestras vidas. Una conversación tan crítica como necesaria.