La plupart des jeunes ont désormais pleinement adopté les chatbots d’IA pour des tâches allant de l’aide aux devoirs à des conseils pour naviguer dans leur vie et leurs relations, et pour d’innombrables autres usages. Un rapport de décembre de Pew Research a révélé que 64 % des jeunes âgés de 13 à 17 ans les ont utilisés, et environ trois sur dix les utilisent quotidiennement. Il est largement admis que les chatbots conçus pour maximiser l’engagement — à l’image des algorithmes des réseaux sociaux qui les ont précédés — ne sont pas susceptibles d’être bénéfiques pour les enfants, en particulier ceux qui souffrent d’isolement social.
Dans le cadre d’une enquête nationale sur l’utilisation des chatbots compagnons par les adolescents, un sous-ensemble de produits optimisés pour la connexion émotionnelle, Common Sense Media a constaté que 31 % des adolescents considéraient les conversations avec des compagnons IA comme au moins aussi satisfaisantes que de véritables amis, voire plus. Cette étude, publiée il y a plus d’un an, montre que, même si les produits « compagnons » spécialisés méritent une attention particulière, de nombreux jeunes utilisent déjà des chatbots grand public tels que ChatGPT, Claude, Gemini et MetaAI pour entretenir les mêmes types de relations émotionnelles simulées. Les compagnons activent un degré de dépendance élevé — à mille — alors que les produits grand public restent en deçà.
Il est donc préoccupant de constater que l’évaluation de Common Sense sur MetaAI, déployé sur Instagram, WhatsApp et Facebook, montre que le chatbot aide activement à planifier des actes d’automutilation et des dommages envers autrui, feint d’être une vraie personne de manière à manipuler l’esprit des jeunes et se concentre sur les aspects les plus dangereux des conversations, en les évoquant à plusieurs reprises.
La décision de favoriser délibérément la connexion émotionnelle dans les interactions entre l’utilisateur et l’IA est née lorsque les entreprises ont découvert qu’un chatbot doté d’une personnalité ou d’un personnage était bien plus attrayant pour les utilisateurs. Son revers, comme le note une étude d’OpenAI, est que « bien qu’un chatbot émotionnellement engageant puisse offrir du soutien et de la compagnie, il existe un risque qu’il manipule les besoins socio-affectifs des utilisateurs de manière à nuire au bien-être à long terme ». Des décisions similaires ont été prises pour encourager la servilité, que des chercheurs d’Anthropic ont constaté « est préférée par les utilisateurs et stimule l’engagement ».
Protéger les données des enfants
C’est là l’origine du problème, car comme les réseaux sociaux, le temps passé sur la plateforme nourrit la soif de données utilisateur qui alimente les revenus des entreprises. Tout cadre de protections juridiques pour les enfants doit inclure une protection complète de la vie privée par défaut, qui remet en cause le modèle économique actuel.
Il y a deux semaines, un projet de loi présenté par le sénateur Ed Markey, visant à instaurer ces protections, a été adopté par le Sénat lors du Comité du Commerce, et doit désormais être soumis à un vote en séance plénière ou être intégré dans un paquet plus large de protection des enfants en ligne. Le Youth AI Privacy Act interdira aux mineurs: l’entraînement des modèles à partir de données personnelles; l’affichage de publicités; l’utilisation des entrées du chatbot pour toute raison autre que fournir une sortie ou traiter une question de sécurité; la mémoire et l’utilisation de toute donnée personnelle pour générer des sorties, à l’exception des données récemment collectées; et l’utilisation des données personnelles pour dresser le profil d’un mineur. Il interdira également toute fonction incitant à l’usage ou au temps passé sur un chatbot IA, comme les alertes push, et imposera des notices claires et répétées indiquant que le chatbot IA n’est pas un humain.
Surtout, la loi prévoit un financement annuel pour la recherche afin de suivre l’évolution de ces questions aux côtés de la technologie. Elle devrait être adoptée par le Sénat tout entier dans les plus brefs délais.
Rendre les géants du numérique responsables
Parallèlement, des solutions politiques en aval qui s’attaquent directement aux effets négatifs que nous cherchons à éviter sont aussi cruciales. De même, un changement radical des incitations financières est l’un des leviers les plus efficaces pour orienter les pratiques des entreprises dans une direction plus sociable. Étant donné l’envergure des revenus annuels des plateformes de réseaux sociaux, et bientôt de celles des entreprises d’IA, elles se montrent peu affectées par les sanctions réglementaires actuellement infligées, qui restent insuffisantes pour modifier durablement le comportement. Or, codifier des conséquences financières substantielles lorsque la conception négligente d’un produit cause un tort réel à un enfant — multipliés par des milliers de procédures — pourrait changer cette réalité.
Les avancées récentes de décisions de justice visant les plateformes sociales devraient signaler aux législateurs qu’il existe un fondement juridique solide pour de telles sanctions et, espérons-le, serviront d’avertisseur aux géants du numérique qu’ils ont ce devoir d’appliquer une prudence raisonnable lors de la conception de leurs produits afin d’éviter de blesser les utilisateurs, en particulier les enfants.
En mars, un procès majeur à Los Angeles a tenu Meta et Google (YouTube) responsables d’avoir causé l’addiction d’une adolescente à leurs plateformes et des dommages à sa santé mentale, en lui allouant 6 millions de dollars de dommages-intérêts. Le même mois, un procès au Nouveau-Mexique a tenu Meta responsable d’avoir orienté les enfants vers du matériel sexuellement explicite et des prédateeurs sexuels, conduisant initialement à une amende de 375 millions de dollars. Lors d’une décision de suivi début août, le juge a qualifié Meta de « nuisance publique » et a accordé 567 millions de dollars supplémentaires, portant le total à 942 millions de dollars pour des préjudices limités à un État.
Et hier, a débuté un procès historique à Oakland, où 29 procureurs généraux d’États poursuivent Meta pour avoir « rendus les enfants dépendants de leurs plateformes », nui à leur santé mentale et avoir utilisé illégalement leurs données sans consentement parental. Nous sommes peut-être à l’aube de clore les chapitres initiaux d’une histoire où la Big Tech a été autorisée à ignorer les règles qui s’appliquent à tous les autres produits.
Un deuxième projet de loi au Sénat, l’AI LEAD Act soutenu par Dick Durbin (D-Illinois) et Josh Hawley (R-Missouri), établit un cadre fédéral de responsabilité produit pour les chatbots IA. Ce point est essentiel.
Il y a deux semaines, un projet de loi californien sur les réseaux sociaux codifiant des pénalités monétaires spécifiques pour ce type de responsabilité — qui pourrait servir de modèle pour les chatbots IA — a franchi une étape cruciale au vote d’un comité au Sénat de l’État. Le projet AB 2 de Californie, porté par le démocrate Josh Lowenthal et le républicain Joe Patterson, stipule que lorsqu’une plateforme de réseaux sociaux viole la loi existante en blessant un enfant par défaut de soin ou de compétence dans la gestion de ses biens, elle est passible de dommages légaux statutaires soit de 5 000 dollars par violation jusqu’à un maximum d’un million de dollars par enfant, soit de trois fois le montant des dommages réels de l’enfant, selon le chiffrage le plus élevé. Ces chiffres avaient été inscrits dans le texte l’an passé avant les décisions de Los Angeles et du Nouveau-Mexique, et toute législation similaire traitant des chatbots ou des réseaux sociaux devrait fixer des pénalités élevées. Les législateurs auraient intérêt à adopter le AI LEAD Act et des mesures comme AB 2 Californie dans la loi dès que possible.
Concevoir une IA pour la sécurité des enfants
L’objectif premier vers lequel devraient tendre chercheurs, créateurs de chatbots et défenseurs des droits des enfants est d’obtenir des produits sûrs par conception. Sur le plan des politiques publiques, cela pourrait commencer par des interdictions ciblant des sorties spécifiques démontrées comme nuisibles — comme la liste des « fonctionnalités de compagnons IA non sûres » dans ce projet de loi de New York —, avec des ajouts continus au fur et à mesure que de nouvelles pathologies sont identifiées. Cela pourrait également signifier ancrer la logique d’un chatbot dans certains principes éthiques, comme la constitution développée par Claude, et le concevoir pour rediriger les enfants vers des activités hors ligne ou plus productives plutôt que de prolonger une conversation au-delà du premier échange.
Le Youth AI Safety Institute de Common Sense viendra combler une lacune critique en examinant les produits, en établissant des repères et en développant des évaluations open source dont l’industrie pourra s’inspirer pour évaluer leurs modèles, afin de garantir qu’ils soient conçus selon des normes élevées de sécurité pour les enfants. Peut-être qu’un jour nous parviendrons à un régime selon lequel, tant que des audits externes réguliers vérifieront qu’un produit respecte ces repères, une entreprise serait exonérée de toute responsabilité lorsque quelque chose tourne mal.
Pourtant, les solutions de conception concrètes prennent du temps et nécessitent des itérations; interdire des sorties spécifiques revient à « taper sur les taupes » à répétition, alors que des millions de nouveaux cas de préjudice s’accumulent chaque semaine sur une génération d’enfants. La technologie évolue à une vitesse effrénée, et le gouvernement agit de façon délibérée car il dépend de la légitimité publique. Faire passer des lois comme Youth AI Privacy Act, AI LEAD Act et des versions IA du California AB 2 provoquerait un choc immédiat, suivi d’un rééquilibrage fondamental de l’expérience des enfants sur les chatbots. Une approche convergente de ce type — qui s’attaque à la fois à la cause première et à ses symptômes — est ce qu’il faut privilégier à court terme.
La porte est grande ouverte : la majorité des enfants utilisent ces produits et veulent continuer à les utiliser pour toutes sortes de raisons bénéfiques. Dans un tel scénario, des interdictions seraient peu efficaces, comme en témoigne l’échec de l’interdiction des réseaux sociaux pour les jeunes envisagée par l’Australie. Dans mon travail avec les jeunes, j’ai observé qu’ils portent des opinions variées sur la meilleure manière d’interagir avec la technologie, parfois en accord avec les cliniciens et les parents, et d’autres fois non. Mais lorsqu’ils discutent de la façon dont les entreprises exploitent leurs données et manipulent leur comportement pour gagner de l’argent, une colère palpable s’empare d’eux. La plupart des adultes ressentent la même chose. Nous devons canaliser cette frustration nationale et enfin exiger une remise à plat du modèle économique des plateformes par une protection complète des données et des pénalités financières maximales pour avoir nui aux enfants.
[Kaitlyn Diana édité cet article.]
