L’ère des deepfakes : une nouvelle menace de violence sexuelle dans nos écoles

La pornographie deepfake : la prochaine épidémie de violence sexuelle dans les écoles

La pornographie deepfake est en train de devenir une préoccupation majeure dans le milieu scolaire, et cela a été récemment mis en lumière par Laura Bates, une auteure spécialisée dans la question de la misogynie en ligne. Lors d’une audition devant le Comité des femmes et des égalités (WEC) au Royaume-Uni, elle a qualifié cette problématique de « prochaine épidémie de violence sexuelle » dans les écoles, soulignant l’absence de soutien approprié pour les victimes et les écoles, qui se concentrent davantage sur la gestion de leur réputation que sur l’aide aux élèves touchés.

Qu’est-ce que la technologie deepfake ?

Les deepfakes désignent des images, des vidéos ou des enregistrements audio générés par intelligence artificielle (IA) qui imitent des contenus réels. Bien que la création ou le partage d’images sexuelles explicites d’enfants soit illégal, les outils permettant de fabriquer des deepfakes restent légaux, ce qui pose des questions éthiques et juridiques importantes.

Les impacts sur les écoles

Laura Bates a rapporté que les écoles, dans les cas qu’elle a étudiés, ont souvent dépensé des milliers d’euros pour engager des agences de relations publiques afin de gérer les répercussions sur leur réputation. Cependant, elle souligne qu’aucune action concrète n’a été prise pour soutenir les victimes, en particulier les filles et les enseignantes, qui sont souvent négligées dans ces situations.

– Les écoles ne sont pas équipées pour traiter ces incidents.
– Les filles et les enseignantes sont particulièrement vulnérables.
– Les actions concrètes contre les agresseurs font défaut.

Une nécessité d’éducation et de régulation

Lors de son témoignage, Bates a insisté sur le fait que la criminalisation des garçons mineurs impliqués n’est pas la solution. Au contraire, elle préconise un besoin urgent d’éducation, de prévention et de régulation concernant l’accès des jeunes à ces technologies. Elle a souligné que :

– Il ne devrait pas être facile pour un garçon de 12 ans d’accéder à des outils permettant de créer de tels contenus.
– Les écoles doivent recevoir des directives claires sur la manière de répondre à ces défis.

Les préoccupations croissantes concernant la sécurité en ligne

La question de la sécurité des enfants en ligne est devenue de plus en plus pressante, et les experts demandent des réglementations plus strictes pour les grandes entreprises technologiques. Le gouvernement britannique a annoncé qu’il révisait le programme scolaire en matière de relations, de sexualité et de santé, afin d’aborder des problématiques contemporaines comme celle de la pornographie deepfake.

Dame Rachel de Souza, commissaire des enfants en Angleterre, a exprimé des préoccupations concernant l’impact des applications de nudification qui ciblent de manière disproportionnée les filles et les jeunes femmes. Elle a appelé à une interdiction immédiate de ces applications, affirmant qu’il n’existe aucune justification positive pour leur existence.

Le rôle du ‘manosphere’

L’audition de Bates s’inscrit dans une enquête plus large sur la manière dont le ‘manosphere’ et d’autres contenus en ligne alimentent la misogynie. Le groupe a reçu des témoignages inquiétants sur la radicalisation des jeunes hommes et l’impact que cela a sur leurs attitudes envers les femmes, les élèves et le personnel enseignant.

– La montée de la misogynie parmi les jeunes hommes est préoccupante.
– La sexualisation et le harcèlement des enseignantes sont en hausse.

Une réponse collective face à un problème grandissant

Face à l’ampleur de cette problématique, il est crucial que les écoles, les parents et les décideurs politiques collaborent pour créer un environnement sûr et éducatif pour les jeunes. Les recommandations à venir du WEC pourraient inclure des mesures pour :

– Éduquer les jeunes sur les dangers des deepfakes.
– Renforcer la réglementation sur les technologies accessibles aux mineurs.
– Fournir un soutien adéquat aux victimes.

La situation actuelle appelle à une prise de conscience collective et à une action concertée pour prévenir une épidémie de violence sexuelle alimentée par des technologies de plus en plus accessibles. Il est impératif de protéger nos enfants et de leur offrir les outils nécessaires pour naviguer dans un monde numérique complexe et souvent dangereux.