OpenAI lance ChatGPT pour les adolescents face à des préoccupations croissantes en matière de sécurité
En réponse à plusieurs procès liés aux mesures de sécurité des chatbots AI et à leur rôle allégué dans des incidents affectant la santé mentale des adolescents, OpenAI a annoncé lundi le lancement de ChatGPT pour les adolescents. Ce nouveau produit comprend des protocoles de sécurité renforcés visant à limiter les usages potentiels abusifs, en particulier dans les environnements éducatifs.
ChatGPT pour les adolescents introduit une fonctionnalité appelée Mode Étude, conçue pour favoriser une interaction plus profonde avec le matériel d’apprentissage plutôt que de fournir des réponses instantanées. Les nouveaux outils encouragent la curiosité, permettant aux utilisateurs de surmonter les défis académiques avec quelques indications.
OpenAI a précisé que le Mode Étude fournira des questions guidées et un soutien structuré pour aider les adolescents à mieux comprendre leur étude. L’application émettra également des rappels de devoirs lorsqu’elle détecte des tentatives de triche, incitant les utilisateurs à interagir avec le matériau via le Mode Étude.
De plus, l’application comporte des quiz et des visualisations d’apprentissage, ainsi que des outils de contrôle pour les parents ou tuteurs afin de gérer les moments où le Mode Étude est actif par défaut, selon la firme.
Cependant, des inquiétudes demeurent concernant l’efficacité de ces mesures de sécurité. L’adaptabilité des adolescents à naviguer dans les contrôles parentaux soulève des questions importantes quant à la faisabilité de ces nouveaux systèmes dans la pratique. Tant que le mode adolescent de ChatGPT ne subira pas d’évaluations approfondies, la robustesse de ses fonctionnalités de sécurité reste incertaine.
Des critiques concernent également le timing de ces protections, qui n’ont pas été intégrées dans le ChatGPT original lors de son lancement fin 2022, une période durant laquelle l’application a connu une croissance rapide, atteignant près de 900 millions d’utilisateurs hebdomadaires, sans protections adéquates pour les jeunes audiences.
OpenAI affirme que des protections adaptées à l’âge seront désormais activées par défaut dans ChatGPT pour les adolescents, visant à réduire l’exposition à des contenus nuisibles ou inappropriés. Ces mesures sont guidées par les Principes pour les moins de 18 ans de l’entreprise, éclairés par des recherches scientifiques et les recommandations d’experts.
Les parents auront accès à des outils familiaux et à des contrôles parentaux, leur permettant d’ajuster les paramètres, de recevoir des notifications concernant la sécurité et d’établir des Heures de Silence, entre autres fonctionnalités, pour soutenir une utilisation responsable de l’IA.
Pour améliorer les opportunités éducatives, OpenAI a associé à CodeAI pour permettre aux adolescents d’apprendre sur la technologie IA, ses fonctionnalités et comment interroger ses résultats. L’entreprise propose également ChatGPT pour les enseignants, permettant aux écoles de gérer l’accès aux ressources IA dans les environnements éducatifs.
Cette initiative marque un pas significatif vers la résolution de la relation complexe entre la technologie IA et la sécurité des jeunes, mais suscite des discussions critiques sur les défis en cours visant à garantir l’efficacité et la responsabilité des solutions numériques.
