Las redes sociales utilizan moderación automática, equipos humanos y sistemas de denuncia para proteger a los menores, pero esas medidas tienen límites. En una información de Agencia EFE analizo qué hacen las plataformas y por qué los deepfakes añaden nuevos riesgos.
Un deepfake es un contenido audiovisual manipulado o generado con inteligencia artificial para representar de forma convincente algo que no ocurrió realmente.
¿Cómo protegen las redes sociales a los menores?
Las plataformas combinan sistemas automatizados de detección, moderadores humanos y mecanismos para que los propios usuarios denuncien contenidos. Estas herramientas permiten retirar parte del material problemático y detectar determinados comportamientos.
Sin embargo, siguen existiendo problemas de transparencia, sesgos y capacidad de respuesta. La eficacia depende no solo de disponer de herramientas, sino también de cómo se aplican y con qué rapidez.
¿Por qué los deepfakes aumentan el riesgo para los menores?
Porque la inteligencia artificial permite crear o manipular imágenes de forma cada vez más accesible. Cuando el contenido sexual afecta a menores, el daño potencial es especialmente grave y la respuesta no puede limitarse a actuar después de la publicación.
La aparición de estas herramientas obliga a revisar los mecanismos de prevención, detección y retirada de contenidos, así como la responsabilidad de las propias plataformas.
¿Qué medidas hacen falta además de la moderación?
La protección requiere combinar regulación, educación digital y diseño responsable de las plataformas. Ninguna de esas vías funciona por sí sola.
En mi investigación y divulgación en la Universidad Europea de Valencia trabajo sobre desinformación, deepfakes y protección de menores en entornos digitales. En este caso, mi participación en EFE se centra en explicar los límites de los sistemas actuales de protección.
Datos clave
- Las plataformas combinan detección automática, moderación humana y denuncias.
- Persisten problemas de transparencia, sesgos y capacidad de respuesta.
- Los deepfakes permiten generar o manipular imágenes con IA.
- La información fue publicada por Agencia EFE.
Referencia
Agencia EFE (17 de febrero de 2026). ¿Qué hacen las redes sociales para proteger a los menores? ¿Es suficiente? Leer la información.