En una sola mañana de octubre, Maldita.es localizó en TikTok diez emisiones en directo en las que madres con pocos recursos mostraban a bebés y niños pequeños mientras algunos espectadores les pedían que hicieran con los niños acciones de carácter sexual a cambio de regalos virtuales que se convierten en dinero. TikTok no interrumpió ninguna. Y después de verlas, el algoritmo de la plataforma sugería cuentas similares.
El caso, recogido en una investigación de Maldita.es publicada el 13 de noviembre, llega en plena discusión sobre cómo proteger a los menores en internet. Europa prepara una ley que fija una edad mínima para usar redes sociales. Pero organizaciones como AlgorithmWatch sostienen que el problema no es la edad, sino cómo están diseñadas las plataformas, empezando por los algoritmos de inteligencia artificial que deciden qué ve cada usuario.
Lo que ha destapado Maldita
La pieza forma parte de «TikTok, el hogar del pederasta», una serie de investigaciones que Maldita.es empezó a publicar el 9 de noviembre. En los diez directos analizados, emitidos desde Vietnam, Filipinas y Tailandia, más de un tercio de los 1.421 comentarios tenía carácter sexual. Estaban escritos en 22 idiomas, y en nueve de los diez había comentarios en español.
Según Maldita.es, TikTok no solo permitió las emisiones: también se queda con una parte del dinero de los regalos virtuales. Y su algoritmo sugería después cuentas similares a quien ya los había visto.
En otra entrega de la serie, Maldita.es documentó 1.183 contenidos explícitos de abuso sexual infantil en 231 perfiles, con unos 48 millones de visualizaciones, según recoge Escudo Digital. El Ministerio de Juventud e Infancia pidió a la Fiscalía que actuara, y la Fiscalía ha abierto una investigación, según El Demócrata, que cita a El Confidencial.
TikTok asegura que prohíbe expresamente estos contenidos y que tiene tecnología para detectarlos y eliminarlos. Ha pedido a Maldita.es que le entregue todos sus hallazgos, y ya ha retirado parte de las publicaciones denunciadas y restringido algunos términos de búsqueda, según ese mismo medio. Maldita.es, por su parte, asegura que de 50 publicaciones que denunció a la plataforma, TikTok solo retiró al principio 5, y en más de la mitad de los casos concluyó que no infringían sus normas, según Escudo Digital.
La respuesta de Europa: más edad y más protección
La Comisión Europea presentó el 17 de septiembre su propuesta de Ley sobre la seguridad de los menores en línea, conocida como EU KIDS Act. Se aplicaría a las redes sociales, las plataformas de vídeo, los juegos en línea y los chatbots y compañeros de IA:
- Menores de 13 años: no podrían usar redes sociales.
- De 13 a 14 años: solo con una minicuenta gestionada por sus padres o tutores, con funciones limitadas y un máximo de una hora al día.
- A partir de 15 años: podrían tener su propia cuenta.
La propuesta incluye además medidas de seguridad desde el diseño: limitar el desplazamiento infinito y las notificaciones nocturnas, hacer privados por defecto los perfiles y prohibir el contacto de desconocidos. Y las plataformas de muy gran tamaño tendrían que demostrar que sus servicios son seguros para los niños: la carga de la prueba pasaría de los reguladores a las empresas.
La Comisión justifica la propuesta en la creciente preocupación por unas plataformas que considera «muy adictivas» y «diseñadas para captar su atención el mayor tiempo posible». El texto todavía tiene que pasar por el Parlamento Europeo y el Consejo.
En España, el Gobierno había aprobado su propio proyecto de ley de protección de los menores en los entornos digitales. Elevaba a 16 años la edad mínima para abrir una cuenta en redes sociales, creaba una aplicación para verificarla y hacía a las tecnológicas responsables de los daños causados por sus algoritmos. Pero decayó con la disolución de las Cortes para las elecciones del 29 de noviembre, y no volvería al Congreso antes de la primavera de 2027, según Mobile World Live.
La crítica: el problema es el diseño
La organización AlgorithmWatch, que analiza el impacto de los algoritmos en la sociedad, cree que las prohibiciones por edad no van a la raíz. En un artículo de opinión publicado el 16 de noviembre, las califica de gesto simbólico y sostiene que los riesgos nacen del diseño de las plataformas y de su modelo de negocio: el desplazamiento infinito, la reproducción automática y los algoritmos pensados para captar la atención el mayor tiempo posible.
Sus argumentos:
- Verificar la edad obliga a vigilar a todos: para saber quién es menor, hay que comprobar la edad de todos los usuarios, también de los adultos.
- Las prohibiciones no se aplican de forma efectiva: Australia prohíbe desde diciembre de 2025 ciertas redes a los menores de 16 años. Según la primera evaluación del regulador australiano, citada por AlgorithmWatch, la proporción de menores de 10 a 15 años con cuenta propia en esas redes bajó en torno a un 10 %, pero el 81,5 % seguía usándolas, sobre todo porque nadie les había pedido verificar su edad.
- Las normas ya existen: la Ley de Servicios Digitales europea ya obliga a las plataformas accesibles para menores a garantizar un alto nivel de privacidad y seguridad. El problema, según AlgorithmWatch, es que no se hace cumplir.
En Alemania, una comisión de expertos ha propuesto 56 recomendaciones y dos opciones: fijar una edad mínima de 13 años con protecciones graduales hasta los 18, o no fijar ninguna y endurecer las normas para los servicios y funciones de riesgo. AlgorithmWatch defiende la segunda, pero la ministra alemana de Familia, Karin Prien, se ha mostrado a favor del límite de edad, según la propia organización.
Dónde entra la inteligencia artificial
La IA atraviesa este debate por varios motivos:
- Los algoritmos de recomendación: deciden qué contenido aparece a continuación, y son los que, según Maldita.es, sugerían cuentas similares a quien ya había visto esos directos. La propuesta europea obligaría a que, en las cuentas de menores, las recomendaciones personalizadas basadas en el rastreo estén desactivadas por defecto y que las recomendaciones prioricen lo que el niño ha pedido expresamente, según el análisis del bufete CMS.
- Los chatbots y compañeros de IA: también entran en la propuesta. Según la Comisión, tendrían que estar desactivados por defecto y no podrían actuar de forma que los niños dependan emocionalmente de ellos.
- La verificación de la edad: algunas plataformas, como Meta, ya estiman la edad de sus usuarios a partir de los datos que recogen sobre ellos, y otras, como OpenAI con ChatGPT, han anunciado sistemas para predecirla. AlgorithmWatch, citando a la Electronic Frontier Foundation, advierte de que el método de Meta supone recoger todavía más datos personales, y los expertos alemanes piden excluir los métodos biométricos y basados en el comportamiento. La Comisión Europea propone su propia aplicación de verificación, que no almacena documentos de identidad ni datos biométricos.
A todo ello se suma otro riesgo creciente: la propia IA generativa ya se usa para fabricar material de abuso, y los vídeos de abuso infantil creados con IA se multiplicaron por 260 en un año, según la Internet Watch Foundation.
Los tribunales también aprietan
En Estados Unidos, Meta aceptó en agosto pagar hasta 16.680 millones de dólares para cerrar el juicio que la enfrentaba a 29 estados, que la acusaban de dañar a los menores con sus redes, según Reuters, recogido por The Star. Meta no admitió haber actuado mal.
El acuerdo incluye límites diarios de uso y restricciones nocturnas para los menores en Facebook e Instagram. Según AlgorithmWatch, también obliga a ofrecer una opción de muro sin algoritmo, aunque la organización advierte de que esas condiciones las pactó la propia Meta con los estados, en lugar de imponerlas la ley.
Qué viene ahora
El EU KIDS Act empieza ahora su recorrido en Bruselas, y la ley española tendrá que esperar al próximo Gobierno. Mientras tanto, la Fiscalía investiga la difusión de material de abuso sexual infantil a través de TikTok, y la plataforma asegura que prohíbe y retira esos contenidos.
El debate de fondo seguirá abierto: si basta con decidir a qué edad pueden entrar los menores en las redes, o si hay que cambiar lo que encuentran dentro, empezando por los algoritmos que lo eligen por ellos.
La fotografía de representación de este artículo pertenece a Anton Ryazanov y ha sido publicada en Unsplash.

