Grok AI et l’abus d’images générées par IA : un appel à l’action
L’abus d’images générées par IA est en pleine expansion et nécessite une action urgente de la part des gouvernements et des plateformes technologiques pour protéger les femmes et les filles. Cette alerte provient de l’association caritative Refuge, qui met en lumière l’utilisation croissante de la technologie IA sur la plateforme de médias sociaux X, détenue par Elon Musk, pour créer des images sexualisées de femmes et de filles.
Manipulation d’images innocentes
Des images innocentes postées par des femmes et des photographies d’enfants ont été manipulées à l’aide de l’outil Grok AI, entraînant des modifications choquantes telles que la suppression de vêtements, la mise en position sexualisée, et l’ajout de marques de violence. Suite à de vives critiques, Musk a annoncé qu’il limiterait l’accès à cet outil aux utilisateurs payants.
Monétisation de l’abus
Cependant, Emma Pickering, responsable de l’abus facilité par la technologie chez Refuge, a déclaré que cette décision ne faisait que monétiser l’abus. Elle a affirmé que la restriction d’accès n’était pas suffisante et que l’abus n’a pas été stoppé, mais simplement placé derrière un mur payant, permettant à X de tirer profit de cette situation.
Appel à l’intervention gouvernementale
Le secrétaire à la technologie, Liz Kendall, a également appelé à une action rapide, qualifiant la manipulation sexuelle des femmes et des enfants de « détestable et abominable ». Elle a exigé que Ofcom, l’autorité de régulation, utilise ses pleins pouvoirs pour bloquer les services qui ne respectent pas la loi britannique.
Impact des nouvelles réglementations
Bien que la loi sur la sécurité en ligne permette à Ofcom de bloquer des services non conformes, aucune action directe n’a encore été entreprise contre X et Grok concernant la création d’images abusives. Pickering insiste sur la nécessité d’une intervention gouvernementale face à cette situation alarmante.
Les véritables responsables
À la base de cette montée des abus d’images générées par IA se trouvent de véritables perpétrateurs, motivés par une misogynie enracinée. Malgré la publication de lignes directrices sur la violence à l’égard des femmes et des filles, ces mesures ne sont pas légalement contraignantes, et il est prouvé que lorsque les entreprises technologiques se régulent elles-mêmes, ce sont les femmes et les filles qui en souffrent.
Conclusion : l’urgence d’une action
Refuge appelle le gouvernement à agir rapidement pour tenir Grok et d’autres entreprises technologiques responsables de l’abus en ligne, à travers des réglementations plus strictes et des conséquences significatives. Si cette situation est laissée sans surveillance, la sécurité des femmes et des filles continuera d’être en danger.