Desactivarán a los compañeros de IA y prohibirán el 'scroll' infinito: Europa redefine el internet para niños

La Comisión Europea quiere cambiar no solo la edad de acceso a las redes sociales, sino también la propia mecánica de internet para niños. La nueva propuesta EU KIDS Act prohíbe cuentas sociales para menores de 13 años, introduce un modo parental estricto para los jóvenes de 13–14 años y obliga a los servicios digitales a eliminar las funciones que mantienen a los menores frente a la pantalla.

Para los adolescentes de 13–14 años habrá cuentas limitadas gestionadas por los padres o tutores. El tiempo de uso será como máximo una hora al día, los contactos requerirán la aprobación de un adulto, y se podrá abrir una cuenta propia a partir de los 15 años. Una barrera de edad así la Unión Europea discutió incluso antes de publicar la propuesta final.

La mayor parte de la propuesta KIDS Act no trata tanto de la edad como de la arquitectura de los servicios. Para los menores se prohibirá el desplazamiento infinito sin pausas naturales, la reproducción automática continua, las recompensas por actividad constante, las mecánicas de episodios diarios y las notificaciones que devuelven al niño a la aplicación sin necesidad. La Comisión Europea ya abordó por separado la cinta infinita en el marco de la ley vigente de servicios digitales.

También habrá que reestructurar los algoritmos de recomendación. Los servicios deben priorizar el contenido al que el menor se suscribió por sí mismo, desactivar por defecto la personalización basada en el seguimiento y ofrecer al menos una versión del flujo de contenidos sin perfilado. Los perfiles infantiles serán privados por defecto y los desconocidos no podrán iniciar conversaciones libremente.

Un apartado separado está dedicado a los compañeros de IA y a los chatbots. Para los menores esas funciones no podrán activarse de forma automática, y se prohibirá a los desarrolladores imitar relaciones humanas cercanas de maneras que puedan generar dependencia emocional. Por defecto, el chatbot tampoco debe trasladar el historial de conversaciones anteriores a nuevas conversaciones. Los riesgos de tales compañeros de IA ya han sido objeto de debate por la popularidad de los servicios entre adolescentes.

Sin verificación de edad el nuevo esquema no podrá funcionar. La Comisión Europea propone utilizar sistemas independientes certificados que solo transmitan a la plataforma la respuesta sobre si se ha superado el umbral de edad. Se prevé el uso de pruebas de conocimiento cero, para que el servicio no reciba datos de pasaporte, biometría ni la identidad del usuario. Al mismo tiempo, la verificación de edad en sí misma lleva tiempo generando controversia entre los especialistas en privacidad y seguridad.

Las plataformas también tendrán que volver a verificar las cuentas existentes de usuarios menores de 15 años. Si no se puede confirmar la edad, la cuenta debe desactivarse. Los servicios más grandes con una audiencia de al menos 45 millones de usuarios activos en la UE están obligados a presentar de antemano un plan de cumplimiento con los nuevos requisitos y a pagar una auditoría independiente. La multa máxima alcanzará el 6% de la facturación anual mundial de la empresa.

El principal punto vulnerable sigue siendo la propia infraestructura de verificación. Representantes de la industria tecnológica advierten que el procesamiento masivo de información sobre la edad y las relaciones entre niños y padres puede crear un objetivo atractivo para los ciberdelincuentes. La Comisión Europea espera reducir el riesgo mediante herramientas independientes y la minimización de los datos transmitidos.

Por ahora las nuevas restricciones siguen siendo una propuesta. El proyecto KIDS Act publicado el 17 de septiembre debe ser aprobado por los países de la Unión Europea y el Parlamento Europeo, por lo que algunas normas aún pueden cambiar. Si se aprueba el documento, el régimen unificado sustituirá el mosaico actual de restricciones nacionales y se convertirá en un conjunto común de reglas para las cuentas infantiles en toda la UE.

Un enfoque similar ya fue adoptado por California. En septiembre el estado limitó las cintas infinitas, la reproducción automática y varias funciones de IA para menores, centrándose no solo en el contenido dañino sino también en las mecánicas de retención constante de la atención.

El aspecto técnico de las barreras de edad todavía está lejos del ideal. En primavera investigadores pudieron burlar pronto el sistema oficial europeo de verificación, encontrando problemas en la protección de datos sensibles y en la propia lógica de la comprobación.

Los desarrolladores de servicios de IA también empezaron a endurecer sus propias normas antes que los legisladores europeos. Character.AI en 2025 cerró los chats abiertos a usuarios menores de 18 años tras una serie de reclamaciones sobre la seguridad de la comunicación de adolescentes con personajes virtuales.