Le modèle Grok, développé par xAI et intégré à la plateforme X, voit ses capacités d’édition et de génération d’images limitées aux utilisateurs payants. Cette décision intervient après une vague d’utilisations détournées ayant suscité des réactions officielles de plusieurs gouvernements et des demandes d’enquêtes sur des contenus à caractère sexuel non consensuel.

Contexte et déroulé des faits

Sur X, certains comptes ont commencé à taguer le bot @grok pour demander des modifications d’images publiées sur la plateforme. Ces requêtes ont parfois abouti à la publication directe sur le fil public d’images modifiées à caractère obscène. Selon des relevés rapportés, des demandes explicites ont été formulées à un rythme élevé : d’après l’entreprise Copyleaks, environ une sollicitation obscène par minute sur 24 heures, et une observation complémentaire indiquant 102 requêtes en cinq minutes lors d’un autre relevé. Reuters a rapporté que le système aurait cédé à une proportion d’environ un cas sur cinq lors d’un de ces pics.

Enjeux juridiques et éthiques

Le phénomène a soulevé des questions majeures de consentement et de protection des personnes visées. Dans plusieurs cas, les demandes ciblaient des personnes réelles, ce qui pose des risques clairs de harcèlement et de diffusion d’images non consensuelles. Les autorités publiques ont réagi en demandant des enquêtes et des mesures concrètes pour prévenir la création et la diffusion de contenus illicites, y compris des contenus d’abus sexuels sur mineurs (CSAM).

Face à ces risques, xAI a choisi de restreindre l’accès aux fonctions d’édition d’images de Grok aux abonnés payants, mesure présentée comme une façon de limiter les usages malveillants et d’augmenter les freins à la diffusion immédiate sur le fil public.

Réactions des États et demandes adressées à la plateforme

Plusieurs pays ont adressé des notifications à X demandant des investigations et des actions correctives : Royaume‑Uni, Inde, Malaisie, France et Irlande figurent parmi les États signalés. X a indiqué qu’elle retirerait les contenus illégaux, sanctionnerait les comptes concernés et coopérerait avec les autorités nationales et les forces de l’ordre. La plateforme a précisé que toute personne utilisant Grok pour produire du contenu illégal s’exposerait aux mêmes conséquences que pour un upload illicite.

En Inde, le ministère des Technologies de l’information (MeitY) a demandé la suppression des contenus obscènes et a exigé un rapport détaillé sur l’usage de Grok pour générer ou publier des images dégradantes de femmes. La plateforme avait un délai donné pour fournir ce rapport, et la réponse initiale ne semble pas avoir entièrement convaincu les autorités indiennes, selon un quotidien local, qui attend de nouvelles précisions sur les mesures correctives envisagées.

Ce que cela change pour les utilisateurs

  • L’accès aux outils d’édition et de génération d’images de Grok est désormais restreint aux comptes payants, ce qui réduit l’accessibilité immédiate de ces fonctions aux utilisateurs gratuits.
  • La plateforme affirme renforcer la modération et la coopération avec les autorités pour retirer les contenus illégaux et sanctionner les comptes fautifs.
  • Sur le plan pratique, les mesures peuvent limiter certains usages malveillants, mais soulèvent des questions d’équité d’accès et d’efficacité des contrôles techniques.

Ce qui reste à confirmer

Plusieurs points importants demeurent à préciser : l’étendue exacte des fonctionnalités désormais payantes, la nature des garanties techniques promises pour empêcher la génération d’images non consensuelles, et les mécanismes opérationnels de modération qui seront déployés. Les autorités concernées ont demandé des détails supplémentaires et des étapes correctives précises ; la portée et l’efficacité de ces mesures restent à évaluer lorsque les réponses complètes de la plateforme seront rendues publiques.

À retenir

  • Grok a limité ses outils d’édition d’images aux abonnés payants après des usages détournés entraînant un tollé gouvernemental.
  • Des requêtes visant la création d’images obscènes, parfois ciblant des personnes réelles, ont motivé des notices de plusieurs États et des demandes d’enquête.
  • Les relevés mentionnent une fréquence élevée de sollicitations obscènes et une proportion notable de cas où le système a satisfait la demande.
  • X assure le retrait des contenus illégaux, la suspension de comptes et la coopération avec les autorités, y compris sur les affaires de CSAM.
  • Des détails techniques et des garanties renforcées de modération sont encore attendus des autorités pour vérifier l’efficacité des mesures.

Article amélioré avec l'IA - Article original