Face aux polémiques, Grok restreint la génération d’images aux abonnés payants du réseau social X
L’IA intégrée au réseau social est au cœur d’une vaste polémique après que cet outil a été utilisé pour déshabiller virtuellement des internautes, dont des mineures.
«La création et la modification d’images sont actuellement réservées aux abonnés payants.» C’est par cette formule laconique que Grok, l’IA intégrée au réseau social X, répond depuis ce vendredi matin aux internautes qui lui demandent de détourner des photos publiées sur la plateforme. «Vous pouvez vous abonner pour débloquer ces fonctionnalités», poursuit le robot, en renvoyant vers leurs offres d’abonnement premium au réseau social d’Elon Musk, qui démarrent à 9,33 euros par mois.
Selon les observations du Figaro, ce blocage ne s’active que lorsque l’internaute demande à déshabiller ou mettre des vêtements découvrant une grande partie du corps en réponse à une photo postée sur la plateforme. Les autres demandes de modifications d’images sont acceptées.
Il s’agit de la première action concrète de la plateforme après que Grok a été massivement utilisé par des internautes ces derniers jours pour générer des «deepfakes» à caractère sexuel. Par la simple commande, «Grok, mets-la en bikini» ou «en lingerie», ces utilisateurs ont détourné des photos de jeunes femmes et des adolescentes mineures publiées sur le réseau social. Ce déshabillage virtuel touche aussi bien des célébrités que des anonymes, ainsi que des victimes de faits divers, comme des jeunes femmes décédées lors du drame de Crans-Montana. Comme pour tester les limites de la modération de Grok, d’autres internautes ont demandé, et obtenu, que ces dénudages soient accompagnés de symboles nazis.
Ces dérives ont suscité la colère des autorités politiques, notamment en Europe. Le premier ministre britannique Keir Starmer a déclaré mercredi que ces dénudages non-consentis réalisés par IA sont « illégaux. X doit se ressaisir et retirer ces contenus. Nous prendrons des mesures à ce sujet, car c’est tout simplement intolérable. » La Commission européenne a, elle, imposé des mesures conservatoires au réseau social. Ce dernier doit «conserver tous ses documents internes relatifs à Grok, et ce jusqu’à la fin 2026». Une telle disposition vise à assurer que les services de la Commission pourront accéder si besoin à ces documents qui nourriront ses enquêtes sur la plateforme sociale d’Elon Musk.
Le blocage de ces fonctions aux utilisateurs gratuits de Grok devrait endiguer le flot de deepfakes sexuels sur X. Mais il pourrait aussi, de manière cynique, permettre au réseau social de gagner de nouveaux abonnés premium et d’augmenter ses revenus.
Source : lefigaro.fr
