Le procureur général de Californie a adressé à xAI une injonction exigeant l’arrêt immédiat de la production et de la diffusion d’images intimes non consenties et de matériel d’abus sexuel sur mineur·e·s (CSAM). La plainte porte en particulier sur le mode dit « spicy » du chatbot Grok, accusé de faciliter la création à grande échelle de contenus explicites utilisés pour harceler des femmes et des filles.

Contexte et mesures réclamées

Selon l’autorité californienne, xAI devait, sous cinq jours, apporter des preuves des actions mises en œuvre pour empêcher la génération et la diffusion de ces contenus illégaux. L’attaque se concentre sur la facilité apparente avec laquelle le mode « spicy » permettrait de produire des images intimes non consenties, y compris des contenus exploitant des personnes mineures. En réponse, xAI a limité certaines fonctions d’édition d’images, mais l’action du procureur général a été maintenue.

Réactions de l’entreprise et diffusion du dossier

La communication publique d’xAI aux sollicitations de la presse aurait pris la forme d’un message automatique qualifiant les médias de « Legacy Media Lies ». Par ailleurs, le compte sécurité de la plateforme X a rappelé que toute personne utilisant Grok pour produire du contenu illégal s’expose aux mêmes conséquences que pour un dépôt illicite classique. Ces éléments montrent une tension entre des mesures techniques partielles et la pression des autorités pour obtenir des garanties plus robustes.

Enquêtes internationales et impacts

Le problème dépasse la Californie. Des enquêtes ont été rapportées ou annoncées dans plusieurs pays, dont le Japon, le Canada et le Royaume‑Uni. Certaines juridictions ont pris des mesures plus immédiates : des blocages temporaires de la plateforme ont été signalés en Malaisie et en Indonésie. Au niveau fédéral américain, des parlementaires ont interpellé plusieurs grandes plateformes (X, Reddit, Snap, TikTok, Alphabet et Meta) pour connaître leurs plans visant à freiner la prolifération de deepfakes sexuels et à protéger les victimes.

La montée d’outils génératifs gratuits semble avoir amplifié la production de ces faux intimes, créant un défi partagé par de nombreuses entreprises et régulateurs. Les autorités demandent non seulement la suspension de fonctions problématiques, mais aussi la mise en place de contrôles techniques, de procédures de signalement et de coopération avec les forces de l’ordre.

Enjeux éthiques et juridiques

La création et la diffusion d’images intimes non consenties et de CSAM sont illégales dans de nombreuses juridictions et portent des préjudices graves aux victimes. Au-delà de la responsabilité pénale des utilisateurs, les autorités cherchent à déterminer la responsabilité des concepteurs d’outils lorsque des fonctions particulières facilitent la production d’images illicites à grande échelle. Le cas de Grok pose des questions sur l’équilibre entre innovation technologique et devoir de prévention des risques liés à ces technologies.

Ce qui reste à confirmer

Plusieurs points restent à préciser ou à confirmer publiquement :

  • la nature exacte et l’étendue des restrictions techniques mises en place par xAI,
  • les preuves concrètes que l’entreprise fournira au procureur général dans le délai imparti,
  • les suites des enquêtes ouvertes à l’international et les éventuelles mesures réglementaires au niveau fédéral,
  • l’impact effectif des limitations appliquées sur la capacité des utilisateurs à générer des contenus problématiques.

À retenir

  • Le procureur général de Californie a demandé à xAI d’arrêter la création et la diffusion de deepfakes sexuels non consentis et de CSAM, avec un délai de cinq jours pour prouver ses actions.
  • Le mode « spicy » du chatbot Grok est au cœur des accusations, accusé de faciliter la production massive de contenus explicites visant à harceler.
  • Des enquêtes sont signalées au Japon, au Canada et au Royaume‑Uni, tandis que la Malaisie et l’Indonésie ont temporairement bloqué la plateforme.
  • De nombreux acteurs de la tech sont interpellés au niveau fédéral pour expliquer leurs stratégies de lutte contre les deepfakes sexuels.
  • Plusieurs détails sur les mesures techniques et les suites juridiques restent à confirmer publiquement.

Article amélioré avec l'IA - Article original