Hausse des deepfakes et sextorsion chez les jeunes en Suisse
Protection enfance: les deepfakes inquiètent
Les signalements liés aux deepfakes, à la sextorsion et aux violences sexuelles numériques connaissent une forte hausse en Suisse, selon clickandstop.ch. Protection de l’enfance appelle à renforcer d’urgence la protection des mineurs face à l’IA.
"Les violences sexuelles numériques touchent toujours plus de mineurs", alerte la plateforme clickandstop.ch, développée avec la Fondation Guido Fluri et l'Office fédéral de la police (fedpol), lit-on mercredi dans un communiqué de Protection de l'enfance Suisse. Devenue le principal point de contact national en Suisse, 9’697 URL contenant des contenus pédocriminels lui ont été signalé depuis 2022.
Outre le signalement anonyme de contenus illégaux, clickandstop.ch propose conseils et prévention, via son service téléphonique et de chat.
Une pétition pour durcir le cadre légal
Dans ce contexte, la fondation Protection de l’enfance Suisse appelle à un durcissement du cadre légal. L’organisation soutient la pétition "Deepfakes et violence numérique", adressée au conseiller fédéral Beat Jans, estimant que les mesures actuelles restent insuffisantes face à l’essor des outils d’IA, ainsi que l'"initiative internet", portée par des représentants de tous les partis.
L’intelligence artificielle accentue le phénomène
Le phénomène en Suisse s’inscrit dans une tendance mondiale. L'an dernier l'Internet Watch Foundation (IWF) a examiné plus de 312'000 cas de représentations de violences sexuelles sur des enfants dans le monde. Un nouveau record a ainsi été atteint.
Dans le même temps, les nouvelles technologies créent des risques supplémentaires: l’IWF a recensé plus de 3400 vidéos d’abus d’enfants générées par l’IA, soit plus de 260 fois le nombre enregistré l’année précédente.