Character.AI a annoncé une transformation de son offre pour les utilisateurs mineurs : l'accès aux chats ouverts est progressivement supprimé depuis le mois dernier et, désormais, les moins de 18 ans ne peuvent plus engager de conversations ouvertes avec les personnages. En remplacement, la plateforme lance « Stories », un format de fiction interactive guidée présenté par l'entreprise comme une option « safety-first » destinée à maintenir l'engagement tout en limitant les risques.
Pourquoi ce changement ?
La décision s'inscrit dans un contexte de préoccupations croissantes sur l'usage des compagnons IA accessibles en continu. Des experts et des familles ont signalé des risques psychologiques liés à des interactions prolongées avec des chatbots capables d'initier des conversations non sollicitées. Plusieurs poursuites évoquant l'implication présumée de compagnons IA dans des suicides ont également contribué à mettre la question sous les projecteurs. Face à ces signaux, Character.AI a choisi d'âger son offre et d'interdire aux mineurs l'accès direct aux chats ouverts.
Le format « Stories » : fiction guidée plutôt que dialogue libre
« Stories » est présenté comme une alternative structurée aux échanges libres : il propose des récits interactifs dans lesquels l'utilisateur retrouve des personnages favoris sans dialogue ouvert ni messages initiaux non sollicités. Selon l'annonce de la société, « Stories offrent un moyen guidé de créer et d'explorer la fiction, en lieu et place des chats ouverts ». L'objectif affiché est de conserver une expérience immersive tout en encadrant davantage les interactions.
Réactions et enjeux pour les adolescents
Les réactions des usagers sur les forums publics sont partagées. Certains jeunes se disent soulagés et estiment que la mesure peut les aider à décrocher d'une dépendance aux chats. D'autres regrettent la fermeture de l'accès libre, craignant de perdre une forme d'interaction qui leur était utile socialement ou émotionnellement. Pour une partie des adolescents, le format guidé pourra suffire ; pour d'autres, il risque d'être perçu comme restrictif.
Au-delà du ressenti, la question centrale reste de savoir si « Stories » permettra réellement de réduire les risques identifiés sans créer d'effets secondaires imprévus, notamment chez les jeunes qui utilisaient les chats ouverts comme un accompagnement régulier.
Cadre réglementaire et débats publics
La décision survient alors que des autorités locales ont commencé à encadrer les compagnons IA : la Californie a récemment adopté des règles spécifiques et des parlementaires américains ont proposé une loi visant à interdire ces services aux mineurs au niveau national. Deux sénateurs sont cités comme ayant introduit une telle proposition au niveau fédéral. Dans ce contexte législatif et judiciaire, la stratégie de Character.AI apparaît comme une réponse partielle aux pressions externes et aux risques juridiques.
« Pour les moins de 18 ans, les chats ouverts ne sont probablement pas le bon produit », a déclaré le PDG Karandeep Anand.
Ce qui reste à confirmer
- Si « Stories » offrira une protection effective contre les risques psychologiques identifiés ou si de nouvelles modalités d'usage soulèveront d'autres problèmes.
- La manière dont la plateforme intégrera « Stories » avec ses autres fonctionnalités multimodales et l'impact concret de ce choix sur l'engagement des adolescents.
- L'efficacité des mesures d'âgisme et de contrôle dans la pratique, notamment face aux possibilités de contournement ou d'accès via d'autres comptes.
À retenir
- Character.AI a coupé l'accès aux chats ouverts pour les utilisateurs de moins de 18 ans et propose « Stories » comme alternative guidée.
- Le changement répond à des inquiétudes sur les risques psychologiques des compagnons IA disponibles en continu et à des actions juridiques en cours.
- « Stories » vise à préserver l'engagement des jeunes tout en limitant les interactions non sollicitées, mais son efficacité reste à vérifier.
- La mesure s'inscrit dans un contexte réglementaire en évolution, avec des propositions législatives visant à restreindre l'accès des mineurs aux compagnons IA.
Article amélioré avec l'IA - Article original
