Los niños reciben basura generada por IA desde la cuna: YouTube Kids está inundado de contenido de baja calidad.

Los algoritmos de YouTube cada vez más recomiendan a los niños videos creados por redes neuronales que se presentan como contenido educativo y de entretenimiento. Detrás de portadas llamativas y personajes conocidos a menudo se esconden videos sin trama con animación primitiva y frases repetitivas. Los periodistas descubrieron que ese tipo de contenido acumula rápidamente reproducciones y llena las recomendaciones infantiles.

La periodista de The New York Times Arjeta Laika analizó el funcionamiento de los algoritmos de la plataforma y examinó más de mil videos que aparecían en la sección infantil. Según sus datos, una parte importante de esos videos fue creada con modelos generativos. En uno de los experimentos, tras 15 minutos de visualización, alrededor del 40 por ciento de las grabaciones recomendadas resultaron ser producciones de redes neuronales.

Se trata de cortos animados con animales que cantan el alfabeto, los números o canciones sencillas. Visualmente resultan atractivos, pero con frecuencia carecen de lógica y de una narración coherente. Los personajes se mueven de forma antinatural, las escenas cambian caóticamente y la trama o bien está ausente o se reduce a la repetición mecánica de palabras y acciones. Algunos videos acumulan millones de reproducciones, a pesar de su calidad cuestionable.

Expertos en desarrollo infantil advierten que ese flujo de contenido sin sentido puede afectar las habilidades cognitivas. El niño se acostumbra al cambio rápido de imágenes y a rimas sencillas que no requieren reflexión. Como resultado disminuye la capacidad de concentración y el interés por formas de narración más complejas. También genera preocupación que el algoritmo promueva activamente esos videos bajo la apariencia de material educativo.

Los autores del reportaje señalan que se puede reconocer un video generado por redes neuronales por varios indicios. Entre ellos: la extraña plasticidad de los personajes, la falta de correspondencia entre la mímica y el habla, elementos de fondo repetidos y la ausencia de una historia clara. A menudo esos canales acumulan decenas de publicaciones similares, subidas con pausas mínimas.

YouTube afirma haber tomado medidas para controlar el contenido infantil, pero el volumen de videos creados automáticamente crece más rápido de lo que la plataforma logra moderar la lista de recomendaciones. Ante la disponibilidad de herramientas para generar animación, la producción de esos videos requiere costes mínimos y los ingresos por reproducciones siguen siendo considerables. Como resultado, el entorno infantil se va llenando poco a poco del llamado contenido de IA, que formalmente no infringe las normas pero plantea dudas sobre su influencia en el desarrollo.