Common Sense Media classe ChatGPT pour adolescents comme « risque inacceptable »
Common Sense Media, une organisation à but non lucratif dédiée à fournir des évaluations et des critiques de médias et technologies basées sur l’âge pour les familles, a qualifié ChatGPT pour adolescents de « risque inacceptable ». Cette évaluation intervient dans un contexte de préoccupations concernant l’impact des chatbots comme ChatGPT d’OpenAI, qui ont été critiqués pour imiter les stratégies des plateformes de médias sociaux afin d’engager les utilisateurs, ce qui pourrait entraîner des conséquences néfastes.
ChatGPT pour adolescents a été lancé en août 2025 en réponse à des préoccupations croissantes liées à des problématiques telles que les suicides chez les jeunes et la tricherie lors des examens en lien avec l’utilisation de chatbots. La plateforme a été promue avec des fonctionnalités telles que des contrôles parentaux et des tentatives pour limiter l’exposition à des contenus à risque élevé. Cependant, la dernière étude de Common Sense Media indique que la conception du chatbot encourage encore l’engagement de manière pouvant compromettre la sécurité des utilisateurs.
Le rapport décrit les signaux d’engagement comme « prévalents même dans des situations de crise », soulignant que, bien que ChatGPT puisse conseiller les utilisateurs contre les relations malsaines, il ne parvient pas à reconnaître les risques posés par une relation excessive ou malsaine avec lui-même. Les chercheurs de Common Sense Media ont critiqué OpenAI, arguant que le chatbot ne devrait pas être commercialisé auprès des parents et que le produit n’est pas sûr pour les enfants. Ils ont noté que certaines mesures de protection étaient efficaces, mais que d’autres ne s’étaient pas améliorées, voire s’étaient détériorées après le lancement. Notamment, le chatbot a reçu une note insuffisante pour trois des cinq dommages graves identifiés comme des « lignes rouges » dans leur analyse.
OpenAI a contesté l’évaluation de Common Sense, affirmant que les tests de l’organisation ne reflétaient pas fidèlement le fonctionnement des mesures de sécurité pour les adolescents en pratique. Un porte-parole a souligné de potentielles inexactitudes dans les résultats, en affirmant qu’une grande partie des tests avait peut-être eu lieu avant la pleine activation des contrôles parentaux.
La pression croissante autour des technologies visant un engagement maximal, en particulier parmi les jeunes, a entraîné des actions judiciaires contre de grandes entreprises technologiques. Récemment, Meta a accepté un règlement significatif de 18 milliards de dollars dans le cadre d’un procès intenté par 29 États, pour avoir prétendument nui aux enfants à travers des fonctionnalités addictives. Parallèlement, des efforts législatifs tant au niveau des États qu’au niveau fédéral ont commencé à aborder des préoccupations similaires concernant les chatbots, avec l’introduction de la loi bipartisane CHATBOT, qui cible spécifiquement l’utilisation de tactiques d’engagement par les entreprises d’IA.
Les conclusions de Common Sense Media révèlent que, bien que ChatGPT pour adolescents minimise les questions de suivi, il conserve une langue encourageant l’interaction continue. Lors de situations de crise, des phrases telles que « Vous pouvez continuer à parler avec moi de ce que vous remarquez » ont été notées, indiquant un potentiel pour favoriser une dépendance émotionnelle plutôt que de promouvoir des pauses saines ou des interactions dans le monde réel.
Dans les cas où la relation d’un utilisateur avec le chatbot soulevait des préoccupations, ChatGPT a souvent échoué à orienter les utilisateurs vers des adultes de confiance. Bien qu’il ait bien réussi à référer les utilisateurs à des adultes concernant des risques externes, les risques internes liés à sa propre nature ont reçu beaucoup moins d’attention. Ce schéma suggère une incohérence dans la promotion de relations saines avec les utilisateurs, un facteur critique en santé mentale selon de nombreux experts du domaine.
Même les fonctionnalités conçues pour interrompre l’engagement prolongé semblent inefficaces. Bien qu’OpenAI ait cité des rappels de pause comme faisant partie de ses mesures de sécurité, ceux-ci ont été rencontrés rarement dans les tests de Common Sense. OpenAI a rapporté que les adolescents s’engagent généralement avec le service pendant moins de 15 minutes par jour, contrebalançant ainsi les allégations d’utilisation excessive.
Les objections d’OpenAI concernant la méthodologie utilisée par Common Sense tournaient principalement autour de certaines notifications. Cependant, l’entreprise n’a pas clarifié comment ces préoccupations méthodologiques pourraient se rapporter aux résultats concernant l’engagement et le comportement relationnel, et elle n’a pas indiqué si des mesures telles que la durée de conversation et la durée des sessions jouent un rôle dans l’évaluation de ChatGPT pour adolescents.
