OpenAI affirme que ChatGPT for Teens rendra l’IA plus sûre pour les jeunes utilisateurs. Ce lancement intervient dans un contexte de poursuites judiciaires visant à déterminer si ChatGPT est sans danger pour les enfants. Mais les experts en protection de l’enfance estiment que l’entreprise doit encore prouver l’efficacité réelle de ses mesures de protection. Voici ce qu’il faut savoir.
Lancé en août 2026, ChatGPT for Teens est une expérience soumise à une restriction d’âge qui s’active automatiquement par défaut lorsqu’un utilisateur est identifié comme ayant moins de 18 ans. Une fois activée, elle applique des règles de contenu plus strictes et alerte, dans certains cas, les parents dont le compte est associé.
Les experts en protection de l’enfance sont toutefois sceptiques. Robbie Torney, de Common Sense Media, a déclaré à Engadget(nouvelle fenêtre) qu’OpenAI prend des engagements importants en matière de sécurité, mais qu’il faut encore prouver leur efficacité concrète.
Josh Golin, de Fairplay, a indiqué que ces mesures de sécurité peuvent sembler prometteuses sur le papier mais manquent de responsabilité, et risquent d’être davantage une opération de communication qu’un système de sécurité rigoureusement testé. Tous deux ont remis en question le système même qui estime l’âge, tandis que M. Golin a également averti que les restrictions actuelles de ChatGPT concernant le suicide, la violence et l’usage de drogues ont échoué ou se sont affaiblies avec le temps.
Comment fonctionne ChatGPT for Teens
ChatGPT estime si un compte appartient probablement à un mineur de moins de 18 ans en combinant des signaux liés au compte et au comportement, notamment :
- L’âge indiqué par l’utilisateur
- L’ancienneté du compte
- Les sujets généraux abordés
- Les plages horaires habituelles d’activité
- L’évolution de l’utilisation du compte au fil du temps
Lorsque le modèle prédit que le compte pourrait appartenir à un mineur, ChatGPT fait automatiquement basculer ce compte vers l’expérience ChatGPT for Teens, où des mesures de protection plus strictes s’appliquent, notamment des restrictions sur le langage romantique, la dépendance affective, les contenus liés à l’automutilation et les conversations sur les troubles du comportement alimentaire.
Pour les adolescents dont le compte est associé à celui d’un parent, OpenAI peut également envoyer une alerte lorsqu’une conversation suggère un risque d’automutilation. L’entreprise a précisé à Engadget que chaque conversation signalée serait examinée par un employé à temps plein d’OpenAI avant l’envoi d’une alerte, avec pour objectif de prévenir les parents dans l’heure suivant la requête. Il s’agit d’un engagement particulièrement ambitieux dont les experts en protection de l’enfance doutent de la faisabilité à grande échelle par OpenAI.
Les adultes placés par erreur dans l’expérience pour adolescents peuvent vérifier leur âge via Persona, un service tiers de vérification de l’âge. Selon le pays, Persona peut demander un selfie en direct, une pièce d’identité officielle, ou les deux.
La vérification de l’âge arrive dans l’IA
Des garde-fous plus solides peuvent être une bonne chose, à condition d’être efficaces. Mais déterminer qui doit en bénéficier se fait au détriment de la vie privée. Il s’agit d’une forme de surveillance par l’IA : ChatGPT catégorise les utilisateurs en analysant les sujets de leurs discussions, leurs moments d’utilisation du service et leurs habitudes au fil du temps.
Les adultes classés à tort comme mineurs peuvent être contraints de vérifier leur âge via Persona. OpenAI affirme ne pas recevoir directement le selfie ou la pièce d’identité, et indique que Persona supprime les documents importés dans un délai de sept jours. Malgré cela, rétablir un accès complet peut contraindre les utilisateurs à transmettre des informations d’identité sensibles à un service de vérification tiers.
Ce compromis sur la vie privée est plus difficile à justifier alors que l’efficacité des protections sous-jacentes n’a pas été démontrée. Comme l’ont souligné les experts en protection de l’enfance, OpenAI n’a pas encore prouvé que son système d’estimation de l’âge, ses garde-fous de contenu ou ses alertes parentales fonctionneront de manière fiable à grande échelle. De plus, les adolescents ont déjà trouvé des moyens ingénieux de contourner les vérifications d’âge sur d’autres plateformes, notamment Discord, et ils peuvent faire de même avec ChatGPT.
ChatGPT for Teens risque également de normaliser l’estimation et la vérification de l’âge comme condition d’accès aux grands modèles de langage (LLM), obligeant les utilisateurs de tout âge à fournir davantage d’informations sur leur identité et leurs comportements. Les LLM pourraient ainsi rejoindre les réseaux sociaux et les sites pour adultes parmi les services en ligne qui favorisent la multiplication des lois sur la vérification de l’âge. Avec le développement de la réglementation sur l’IA, comme le règlement européen sur l’IA, la vérification de l’âge deviendra probablement une exigence standard pour les chatbots également.
Un assistant IA plus sûr qui respecte votre vie privée
Lumo est un assistant IA différent et respectueux de votre vie privée. Il n’estime pas votre âge en fonction de votre utilisation, n’enregistre pas vos conversations dans un journal et ne s’entraîne pas sur vos données. Nous ne scannons et ne partageons jamais vos échanges, conformément aux mêmes principes de chiffrement à accès zéro qui protègent l’ensemble des produits Proton.
Toute personne âgée de 13 ans ou plus peut l’utiliser, avec le consentement parental requis pour les mineurs, et aucun mécanisme de profilage n’est actif en arrière-plan. Si vous recherchez une alternative à ChatGPT conçue pour respecter la vie privée, vous pouvez commencer par là.
Si vous souhaitez en savoir plus sur la façon dont les outils d’IA collectent et utilisent vos données, notre guide de l’IA détaille les pratiques en matière de surveillance, de sécurité et de respect de la vie privée.
