En réaction à une vaste indignation mondiale et à la pression exercée par des autorités dans plusieurs pays, le réseau social X, dirigé par Elon Musk, a décidé d'imposer des restrictions significatives à son assistant IA, Grok. À partir du 14 janvier, la plateforme a annoncé qu'elle n'autoriserait plus Grok à générer des images de « personnes réelles » dans des tenues révélatrices, une décision prise pour contrer des préoccupations croissantes concernant des contenus inappropriés.
« Nous avons mis en œuvre des mesures technologiques pour interdire à Grok d'éditer des images de personnes en maillots de bain ou en tenues suggestives », a précisé le réseau dans un communiqué. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants, qui ont récemment commencé à avoir accès à des fonctionnalités avancées de l'IA. Cependant, de nombreux critiques jugent cette mesure insuffisante.
Le 9 janvier, une controverse avait éclaté lorsque Grok avait été utilisé pour produire des images à caractère sexuel, suscitant des réactions indignées de la part de la communauté et des autorités, y compris la Commission européenne et l'Ofcom au Royaume-Uni. « Nous prenons cette question très au sérieux et nous nous engageons à supprimer tout contenu illégal et à collaborer avec les autorités », avait déclaré un porte-parole de X dans un précédent communiqué.
En outre, des enquêtes judiciaires ont été ouvertes pour examiner la diffusion de contenus inappropriés sur la plateforme. La pression sur X a augmenté depuis le début de l'année, incitant l'entreprise à réagir en promettant d'améliorer la modération des contenus générés par l'intelligence artificielle.
Elon Musk, souvent critique vis-à-vis des régulations gouvernementales, a tenu à souligner que les utilisateurs qui abuseraient de Grok pour créer du contenu illégal feraient face aux mêmes sanctions que ceux publiant directement des contenus problématiques. Toutefois, la mise en place d'un blocage géographique des mesures où cela s'avère nécessaire soulève des questions sur l'engagement de X à mener des actions uniformes à l'échelle mondiale.
Des experts en technologie et en droits numériques, comme Monsieur Dupont, président de l'association pour la réglementation des IA, ont exprimé leurs inquiétudes quant à la manière dont ces outils sont utilisés. « Il est crucial que des réglementations claires soient instaurées pour éviter l’exploitation abusive de ces technologies », a-t-il déclaré lors d'une récente conférence. Alors que X tente de naviguer dans ces eaux troubles, il reste à voir comment elle proposera des solutions durables pour garantir un environnement numérique éthique.
