Un débat a été lancé au Parlement européen, qui pourrait redéfinir la relation entre les enfants et les jeunes et Internet. Les législateurs ont réclamé un âge minimum de 16 ans pour l'utilisation des réseaux sociaux et des réseaux sociaux basés sur l'IA sans le consentement des parents. Parallèlement, une interdiction totale a été proposée pour les utilisateurs de moins de 13 ans, même avec le consentement des parents. La proposition, adoptée par la commission du marché intérieur et de la protection des consommateurs, a été rédigée par l'eurodéputée danoise Christel Schaldemose. Elle estime que les enfants sont trop vulnérables aux manipulations numériques et incapables de protéger seuls leur vie privée dans un environnement contrôlé par les algorithmes. Le projet de loi prévoit de lourdes sanctions pour les entreprises qui ne respectent pas la réglementation. Concrètement, cela se traduit par des amendes et la possibilité d'interdire les plateformes opérant en Europe. Les autorités européennes comptent utiliser les outils fournis par la loi sur les services numériques (DSA) pour surveiller les sites web et appliquer la réglementation plus efficacement. Le document précise que l'objectif principal est de limiter l'accès des enfants aux contenus préjudiciables et de freiner les mécanismes addictifs. Le Parlement européen plaide pour l'interdiction de l'utilisation d'algorithmes basés sur l'engagement des utilisateurs sur des comptes appartenant à des mineurs. La réglementation proposée prévoit également l'exclusion des fonctionnalités de type jeux d'argent, telles que les loot boxes dans les jeux vidéo.

Une attention particulière a été portée au phénomène du « kidfluencing », où les enfants sont utilisés comme visages de campagnes publicitaires ou monétisés via leurs propres réseaux sociaux. Les députés demandent l'interdiction de la monétisation des contenus créés par des mineurs. Ils estiment que l'activité commerciale en ligne des enfants engendre une pression sociale, un risque d'addiction et des conséquences psychologiques irréversibles. Le débat sur la protection des enfants en ligne prend de l'ampleur dans le contexte de l'influence croissante des algorithmes et de l'intelligence artificielle. Le Parlement souhaite également réglementer les questions liées aux chatbots manipulateurs et aux applications qui utilisent l'IA pour générer des contenus inappropriés. Le document préconise même l'interdiction des applications permettant aux utilisateurs de créer des photos dénudées d'autres personnes sans leur consentement. Le vote en plénière, qui se tiendra du 24 au 27 novembre, pourrait ouvrir un nouveau chapitre de l'histoire de la politique numérique européenne. La proposition est soutenue par la plupart des États membres, dont 25 des 27 États membres de l'UE, ainsi que par la Norvège et l'Islande. La présidente de la Commission européenne, Ursula von der Leyen, a annoncé la création d'un groupe d'experts chargé de présenter une proposition pour un « âge numérique » commun d'ici la fin de l'année.

L'introduction de limites d'âge nécessiterait la création de systèmes de vérification de l'identité des utilisateurs. Les parents ou tuteurs seraient alors tenus de vérifier leur âge, instaurant ainsi un nouveau niveau de contrôle sur les réseaux sociaux et les plateformes d'IA. Concrètement, cela inclurait des services comme YouTube, TikTok, Instagram et les chatbots interactifs. Les critiques mettent en garde contre une surveillance excessive et la création d'un système de surveillance numérique susceptible de menacer la vie privée de tous les utilisateurs. Les partisans, quant à eux, estiment que sans mesures drastiques, l'Europe ne parviendra pas à endiguer la vague d'addictions, de dépression et de cyberharcèlement chez les jeunes. Le projet présenté n'est pas encore définitif, mais son adoption par la commission indique la détermination croissante de l'UE à soumettre Internet à une surveillance stricte au nom de la protection des plus jeunes utilisateurs.