À leur retour à l’école après les vacances d’été, plus de vingt filles d’Almendralejo, une ville du sud de l’Espagne, ont reçu des photos d’elles nues sur leur téléphone portable.

Aucun d’entre eux n’avait pris de photos, mais elles semblaient tout à fait réelles.

Les images ont été volées sur leurs comptes Instagram, modifiées grâce à une application d’intelligence artificielle puis partagées dans des groupes WhatsApp.

Les adolescents étaient entièrement habillés sur les vraies photos, mais l’application rendait la nudité complètement réelle.

Aujourd’hui, les parents et les procureurs se demandent si un crime a été commis : les images pourraient-elles être considérées comme de la pédopornographie ?

« Les montages sont super réalistes, c’est très dérangeant et un vrai scandale », a écrit Miriam Al Adib, l’une des mères des filles, sur son compte Instagram.

« Ma fille m’a dit avec beaucoup de dégoût : ‘Maman, regarde ce qu’ils m’ont fait' », a-t-elle ajouté.

Al Adib a même affirmé que les photos auraient pu se retrouver sur des portails Internet tels que Onlyfans ou des sites pornographiques. Pendant ce temps, les filles devaient subir les commentaires de leurs camarades de classe.

« Ne vous plaignez pas, les filles téléchargent des photos où l’on peut presque voir leur chatte », a déclaré une fille.

La plus jeune des filles n’a que onze ans et n’est pas encore au lycée.

Une autre mère, Fátima Gómez, a déclaré à la télévision Extremadura que sa fille avait été victime de chantage.

Lors d’une conversation avec un garçon sur les réseaux sociaux, il lui a demandé de l’argent et lorsqu’elle a refusé, il lui a envoyé une photo nue.

Les mères se sont organisées pour réagir à cet incident et la Police Nationale a ouvert une enquête qui a déjà identifié plusieurs mineurs qui pourraient être impliqués.

Certaines d’entre elles sont des camarades de classe des filles, selon un homme politique local.

L’affaire a été portée devant le parquet de la jeunesse et le maire de la ville lui-même a prévenu : « Cela a peut-être commencé comme une plaisanterie, mais les répercussions sont importantes et pourraient avoir de graves conséquences pour ceux qui ont pris ces photos ».

10 euros pour 25 photos de nu

Les créations hyperréalistes de l’intelligence artificielle, mieux connues sous le nom de deepfakes, ont été créées à l’aide de l’application ClothOff.

Avec le slogan « Déshabillez n’importe qui, déshabillez les filles gratuitement », l’application permet aux utilisateurs de déshabiller toute personne apparaissant dans la galerie d’images de leur téléphone. Il en coûte 10 € pour créer 25 images de nu.

Bien que la nudité ne soit pas réelle, les mères disent que la détresse des filles en voyant leur image est bien réelle.

PUBLICITÉ

« Vous n’êtes pas conscient du mal que vous avez causé à ces filles et vous n’êtes pas non plus conscient du crime que vous avez commis », a déclaré Al Adib sur son compte Instagram dans un message adressé aux personnes qui ont partagé les images.

« L’une d’elles a dit à ma fille qu’il avait fait des ‘choses’ avec sa photo », a déclaré une autre mère au journal espagnol El País.

Mais les deepfakes peuvent-ils être punis légalement ?

« Une question est de savoir si cela doit être puni et l’autre est de savoir si cela peut être puni par la manière dont la loi est formulée en Espagne et dans d’autres pays de l’UE », a déclaré Manuel Cancio, professeur de droit pénal à l’Université autonome de Madrid. Euronews.

Le professeur souligne qu’il y a une faille dans la loi car l’utilisation de visages de mineurs sur des photos viole leur vie privée, mais lorsqu’il s’agit de délits impliquant la diffusion d’images intimes, c’est l’image dans son ensemble qui viole la vie privée.

PUBLICITÉ

« Comme il s’agit d’un deepfake, la vie privée de la personne concernée n’est pas affectée. L’effet qu’il a (sur la victime) peut être très similaire à celui d’une vraie photo nue, mais la loi est en retard ici », a-t-il ajouté. ajoutée.

Cancio a déclaré que le cadre juridique qui pourrait s’appliquer dans cette affaire serait un crime contre l’intégrité morale, qu’il a décrit comme « une sorte de boîte catastrophe pour les crimes dont personne ne sait à quoi ils appartiennent ».

En mars 2022, la Commission européenne a proposé de criminaliser ces types de crimes dans une directive sur la cybercriminalité. Selon le professeur, le code pénal néerlandais est jusqu’à présent le seul à contenir une disposition sur cette question.

Serait-ce de la pédopornographie ?

Les experts ne sont pas d’accord sur la question de savoir si le crime peut être considéré comme une distribution de pédopornographie, ce qui entraînerait une peine plus lourde.

Pour Leandro Núñez, avocat spécialiste des nouvelles technologies au sein du cabinet Audens, ce qui importe n’est pas si la photo est réelle à 100 %, mais si elle en a l’air.

PUBLICITÉ

« Le plus important est de savoir si le visage est identifiable. On pourrait parler de pédopornographie, de crimes contre l’intégrité morale ou de diffusion d’images à contenu sexuel non consensuel », a déclaré l’avocat à Euronews.

« Dans le cas d’un crime contre l’intégrité morale, il s’agirait d’un crime moindre, passible d’une peine moindre de six mois à deux ans de prison », a-t-il ajouté.

D’autres experts, comme Eloi Font, avocat chez Font Advocates, un cabinet spécialisé dans le droit du numérique, estiment qu’il pourrait s’agir d’un délit similaire à la reproduction d’images sexuelles de mineurs.

Dans ce cas, la peine pourrait être comprise entre cinq et neuf ans de prison.