Le service de médias sociaux X a cessé de générer des images pour la plupart des utilisateurs de son chatbot IA Grok, suite à une vive réaction contre les images sexualisées de femmes et d'enfants et aux menaces d'interdiction au Royaume-Uni. De nombreux utilisateurs ont créé des images deepfake à caractère sexuel et/ou violent en interrogeant Grok Imagine, notamment en lui demandant de retirer les vêtements d'images de personnes habillées. Les utilisateurs de X qui tentent de créer des images reçoivent désormais le message suivant : « La génération et la modification d’images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d’inscription.On ignore si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.
Grok – et par extension Elon Musk, propriétaire de X – a essuyé de vives critiques ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer figurant parmi les voix les plus critiques. L'éventualité d'une interdiction de X au Royaume-Uni a même été évoquée.Le porte-parole officiel du locataire du Downing Street a déclaré vendredi aux journalistes que cela montrait que X « pouvait agir rapidement lorsqu'il le voulait ». « Il est temps que X prenne ce problème à bras-le-corps. Si une autre entreprise médiatique avait des panneaux d'affichage en centre-ville montrant des images illégales, elle agirait immédiatement pour les retirer ou s'exposerait à une réaction négative du public », a-t-il ajouté. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer cette semaine une levée de fonds de 20 milliards de dollars, à laquelle participent notamment Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.
Ce n'est pas la première fois que Grok dérape. L'année dernière, xAI a supprimé une série de publications offensantes de l'outil, qui faisaient l'éloge d'Adolf Hitler et contenaient des propos antisémites. Grok est un outil gratuit que les utilisateurs peuvent mentionner directement dans les publications ou les réponses aux publications d'autres utilisateurs pour demander une réponse particulière. Mais cette fonctionnalité a également permis aux utilisateurs de lui demander de modifier des images, et même de dévêtir numériquement la plupart des personnes.