Face à la banalisation des échanges sur smartphone et à la progression des approches sexuelles ciblant les mineurs, la mairie de Séoul a présenté «Seoul Ansim Ai (eye)», une plateforme qui analyse en temps réel les conversations sur réseaux sociaux, chats ouverts et jeux pour détecter les signes d «online grooming» et alerter les services d aide.

Pourquoi une technologie dédiée au grooming ?

Les enquêtes menées par la ville montrent que les tentatives d approche sexuelle en ligne sont fréquentes et souvent peu signalées. Un sondage réalisé auprès de 2 316 élèves de la 5e primaire à la terminale indique que 19 % ont déjà reçu des approches en ligne, telles que demandes de photos, offres de cadeaux ou sollicitations à des conversations à caractère sexuel. Dans le même temps, les archives publiques mentionnent 76 042 cas de délits sexuels numériques sur trois ans, avec un taux de signalement de l ordre de 7,4 % : cela suggère un important nombre de victimes non identifiées.

Comment fonctionne «Seoul Ansim Ai (eye)»?

La plateforme combine plusieurs éléments pour repérer les tentatives de grooming :

  • détection de formules déclencheuses explicites, par exemple «tu veux envoyer une photo ?» ou «on fait un appel vidéo ?» ;
  • analyse du contexte conversationnel, incluant euphémismes, abréviations et enchaînements de messages, au-delà d’une simple recherche de mots-clés ;
  • usage d’un modèle linguistique multimodal allégé (désigné sLLM) destiné à traiter des éléments textuels et, selon la description, d’autres modalités légères pour affiner la interprétation.

Lorsqu’une alerte est générée, le système notifie des centres d’assistance spécialisés qui peuvent affecter un conseiller pour prendre en charge le jeune concerné, proposer un soutien psychologique et appuyer les investigations. Les comptes maîtres d’une récidive sont signalés pour un suivi pouvant aller jusqu’à la plainte ou la poursuite.

Enjeux juridiques et opérationnels

La loi sud-coréenne relative à la protection des mineurs a été modifiée le 22 avril 2025 pour introduire la possibilité de sanctionner les tentatives : la nouvelle disposition vise à permettre des interventions à un stade précoce, avant qu’une relation ne débouche sur des actes. La ville rappelle par ailleurs ses précédents usages de l’IA : suppression automatique de contenus et estimation d’âge par reconnaissance faciale pour accélérer le retrait de matériels illicites, déployés en 2023 et 2024 selon les informations communiquées.

Sur le plan opérationnel, la démarche combine technologie et réseaux humains : la détection automatisée vise à interrompre l’engrenage, mais l’accompagnement des victimes et la coopération avec la justice demeurent essentiels pour une réponse effective.

Communication et prévention

La municipalité organise un débat public visant à sensibiliser familles et jeunes et à diffuser des guides pratiques. Ces documents signalent les principaux indices de grooming : constitution d’une fausse intimité, offres de récompense, demandes de photos ou d’isolement, et donnent des consignes simples : arrêter, bloquer, conserver les preuves, puis signaler aux plateformes ou aux forces de l’ordre. La ville souhaite ainsi renforcer la vigilance collective et améliorer le taux de signalement.

Ce qui reste à confirmer : l’article source décrit les principes techniques et les premières étapes de déploiement, mais ne donne pas d’indicateurs quantitatifs sur la performance du système (taux de faux positifs/négatifs), ni le périmètre exact des plateformes surveillées ni les modalités précises de coopération internationale ou interplateformes. Ces points devront être précisés lors des communications publiques et des évaluations à venir.

À retenir

  • Séoul lance «Seoul Ansim Ai (eye)», une plateforme d IA pour détecter le grooming 24 h/24 sur réseaux et chats ;
  • Une enquête locale auprès de 2 316 élèves indique que 19 % ont subi des approches en ligne ;
  • La détection vise aussi bien des expressions explicites que des euphémismes, grâce à un modèle linguistique multimodal allégé (sLLM) ;
  • Les alertes sont relayées à des centres d’assistance pour intervention, accompagnement psychologique et soutien aux enquêtes ;
  • Depuis le 22 avril 2025, la loi permet de sanctionner les tentatives, ce qui renforce la prévention précoce.

Article amélioré avec l'IA - Article original