Le service d'intelligence artificielle Grok, développé par la plateforme d'Elon Musk, a annoncé une restriction significative de ses fonctionnalités de création d'images. Cette décision fait suite à des pressions publiques après la mise en circulation d'images dénudant des femmes et des mineurs, qui ont soulevé un tollé international.
Des utilisateurs ont remarqué vendredi que Grok avait désactivé ces fonctions pour les non-abonnés, ne laissant ainsi l'accès qu'aux utilisateurs payants. Sur la plateforme X, Grok a confirmé : "La génération et l’édition d’images sont actuellement réservées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités".
Cette annonce survient alors que la Commission européenne a pris des mesures conservatoires à l'encontre de X, impose une ordonnance de conservation pour préserver l'ensemble des documents internes relatifs à Grok jusqu'à la fin 2026. Cette décision fait suite à une commission d'enquête lancée par l'UE après les révélations concernant la création d'images sexuelles de mineurs par Grok.
Le gouvernement britannique a également exprimé son indignation, appelant à une action rapide pour résoudre cette situation. Liz Kendall, ministre des Technologies, a déclaré que ces images "sont absolument révoltantes et inacceptables dans une société respectueuse".
Dans un contexte plus large, ce type de technologie soulève des questions éthiques fondamentales. Des experts en technologie et en droit ont déclaré que le risque d'exploitation et d'abus avec des outils d'IA comme Grok est très réel. Selon une étude de l'Institut National de la Statistique et des Études Économiques (INSEE), les abus d'images générées par intelligence artificielle augmentent, incitant à une régulation urgente.
Ces événements posent une question cruciale sur la responsabilité des plateformes numériques dans la régulation des contenus générés par l'IA. Les spécialistes appellent à des débats et des législations plus strictes pour encadrer l'utilisation de ces technologies afin de protéger les plus vulnérables.
