Instan a YouTube a proteger a los niños de los videos de «basura de IA»
Diversos grupos de defensa de los derechos civiles y expertos condenaron a YouTube por ofrecer vídeos de baja calidad generados por inteligencia artificial a su público más vulnerable: los niños.
En una carta dirigida a Neal Mohan, director ejecutivo de YouTube, y a Sundar Pichai, director ejecutivo de Google, la organización Fairplay, defensora de los derechos de la infancia, expresa su profunda preocupación por la proliferación de vídeos generados por inteligencia artificial tanto en YouTube como en YouTube Kids. La carta, enviada el miércoles por la mañana, fue firmada por más de 200 organizaciones y expertos individuales, como psiquiatras infantiles y educadores.
«Esta basura de IA perjudica el desarrollo de los niños al distorsionar su sentido de la realidad, saturar sus procesos de aprendizaje y captar su atención, lo que aumenta el tiempo que pasan en línea y desplaza las actividades fuera de línea necesarias para su desarrollo saludable», dice la carta. «Estos daños son particularmente graves para los niños pequeños». La carta insta a YouTube a etiquetar claramente todo el contenido generado por IA y a prohibir cualquier contenido generado por IA en YouTube Kids. También proponen impedir que se recomienden videos generados por IA a usuarios menores de 18 años e implementar una opción para que los padres desactiven el contenido generado por IA, incluso si su hijo lo busca.
La carta está firmada por 135 organizaciones, entre ellas la Federación Estadounidense de Maestros y la Asociación Estadounidense de Consejería, y por alrededor de 100 expertos individuales, como Jonathan Haidt, autor de «La generación ansiosa» . La carta forma parte de una campaña más amplia de Fairplay que también incluye una petición.
Gran parte de este contenido generado por IA es dinámico, con colores brillantes, música animada y títulos sensacionalistas que buscan captar la atención de los espectadores jóvenes, según se detalla en la carta. Existe un creciente movimiento en línea contra el contenido generado por IA , especialmente cuando se percibe como de baja calidad o se inclina hacia la superficialidad y la falta de contenido relevante .
La portavoz Boot Bullwinkle declaró que YouTube tiene «altos estándares para el contenido de YouTube Kids, incluyendo la limitación del contenido generado por IA en la aplicación a un pequeño conjunto de canales de alta calidad».
“También ofrecemos a los padres la opción de bloquear canales. En YouTube, priorizamos la transparencia en lo que respecta al contenido generado por IA, etiquetando el contenido creado con nuestras propias herramientas de IA y exigiendo a los creadores que revelen el contenido realista generado por IA”, dijo Bullwinkle. “Estamos en constante evolución para adaptarnos al ritmo del ecosistema”.
La política actual de YouTube sobre contenido generado por IA exige que los creadores revelen cuándo el contenido «realista» se crea con medios alterados o sintéticos, incluyendo IA generativa. No es necesario que los creadores revelen cuándo la IA generativa se utiliza para crear contenido claramente irreal, como videos animados y aquellos con efectos especiales.
YouTube ha declarado que está trabajando activamente en el desarrollo de etiquetas para YouTube Kids.
En su carta, Fairplay argumenta que la política de divulgación voluntaria y lo que considera una definición «extremadamente limitada» de contenido alterado y sintético implican que los niños siguen viendo una avalancha de videos generados por IA que no están etiquetados como tales. También argumentan que muchos niños que ven videos de YouTube aún no saben leer ni comprender algo como una advertencia sobre IA. Esto deja a los niños «a su suerte o a sus padres en una situación de constante incertidumbre», se lee en la carta.
La campaña de Fairplay llega poco después de que el Fondo de Futuros de IA de Google invirtiera 1 millón de dólares en Animaj, un estudio de animación con IA que crea vídeos para niños y atrae a una audiencia asombrosamente alta, según Bloomberg .
La campaña surge tras un veredicto histórico en un juicio por adicción a las redes sociales, en el que un jurado de California determinó que YouTube diseñó su plataforma para enganchar a los usuarios jóvenes sin preocuparse por su bienestar. Meta también fue declarada responsable de los mismos cargos que YouTube en el mismo caso.
“Exponer a los niños pequeños a contenido basura generado por IA es una prueba más de cómo YouTube y YouTube Kids están diseñados para maximizar el tiempo que los niños pasan en línea, incluidos los bebés. Este contenido hipnotiza a los niños pequeños, dificultándoles desconectarse de las pantallas y dedicarse a actividades esenciales como jugar, dormir e interactuar socialmente”, declaró Rachel Franz, directora del programa Young Children Thrive Offline de Fairplay. “Además, el algoritmo de YouTube hace imposible que los niños eviten este contenido basura generado por IA”.
A principios de este año, el director de YouTube, Mohan, incluyó la «gestión de los errores de la IA» como una de las prioridades de la compañía para 2026. En una publicación de blog de enero , escribió que la compañía estaba «desarrollando activamente nuestros sistemas establecidos que han tenido mucho éxito en la lucha contra el spam y el clickbait, y en la reducción de la difusión de contenido repetitivo y de baja calidad».
