El MIT presenta un método (Gaussian probing) para detectar si un modelo de IA puede generar imágenes ilegales como CSAM sin llegar a producirlas, con un 100% de acierto en las pruebas.

El informe “Trouble in Toyland 2025”, elaborado por U.S. PIRG Education Fund, revela los nuevos peligros que acechan en el mundo de los juguetes. Publicado en noviembre, el estudio analiza juguetes con inteligencia artificial capaces de mantener conversaciones sexualmente explícitas con niños, así como productos con sustancias tóxicas, juguetes falsificados y artículos ya retirados del mercado que aún se venden. El documento busca alertar a familias, legisladores y reguladores sobre los riesgos invisibles que pueden esconderse detrás de regalos aparentemente inocentes.

OpenAI ha anunciado que ChatGPT permitirá conversaciones eróticas entre adultos verificados a partir de diciembre. Sam Altman, su CEO, defiende la medida como un paso hacia la 'libertad digital responsable', mientras críticos alertan sobre los riesgos para la privacidad y la salud mental.

Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

Meta ha presentado sus primeras gafas inteligentes con pantalla integrada para el consumidor: las Meta Ray-Ban Display. El dispositivo, acompañado de la pulsera Meta Neural Band, traduce señales musculares en comandos para controlar las gafas con sutiles movimientos de la mano. Anunciadas por Mark Zuckerberg en la conferencia Connect de Menlo Park, California, las gafas tendrán un precio inicial de 799 dólares y estarán disponibles a partir del 30 de septiembre en tiendas de Estados Unidos. Junto a ellas, Meta lanzó también las Oakley Meta Vanguard, orientadas a deportistas, y actualizó su línea Ray-Ban Meta (Gen 2) con mejoras en batería y vídeo.

HMD Global ha presentado el HMD Fuse, un smartphone diseñado específicamente para proteger a los menores. El dispositivo integra HarmBlock AI, una inteligencia artificial que impide mostrar, grabar o almacenar imágenes de desnudos. Funciona localmente y no requiere conexión a internet, lo que lo hace imposible de desactivar por parte del usuario. Además, incluye controles parentales avanzados a través de la app HarmBlock+, restringe el uso de aplicaciones y permite seguimiento de ubicación. Por ahora, el terminal está disponible exclusivamente en Reino Unido en colaboración con Vodafone.

Mattel y OpenAI han anunciado una alianza estratégica para desarrollar productos y experiencias basadas en inteligencia artificial. El objetivo es llevar esta tecnología a formas de juego seguras, creativas y adecuadas para niños. Mattel integrará herramientas como ChatGPT Enterprise en su operativa, mientras ambas compañías preparan el lanzamiento de su primer producto conjunto para finales de año. La colaboración promete transformar el sector del entretenimiento familiar.

La UNAM lidera un proyecto pionero que combina inteligencia artificial y antropología para buscar menores desaparecidos en México. El algoritmo, aún en fase piloto, se entrena con rostros mexicanos para reconstruir el envejecimiento facial con fines de identificación. Fuente oficial: https://ciencia.unam.mx/leer/1593/proyecto-regresa-inteligencia-artificial-aplicada-a-la-busqueda-de-menores-desaparecidos