Deepfakes en Suisse : des adolescents exploitent l’IA pour fabriquer et partager des images intimes truquées de leurs camarades
Un groupe de garçons âgés de 12 à 14 ans a utilisé une interface en ligne pour générer et diffuser des images intimes truquées de camarades féminines via Snapchat, a rapporté Tages-Anzeiger. Les images ont été créées sans le consentement des victimes et relayées à lcole. Une enquête a été ouverte et l’affaire est désormais entre les mains du procureur des mineurs. Les noms de l’établissement et du canton n’ont pas été rendus publics pour protéger les adolescents impliqués.
Deepfakes en Suisse adolescents IA utilisation et accès aux services
Le site web utilisé, originaire de Chine, promettait de pouvoir déshabiller gratuitement n’importe qui en quelques secondes et présentait le procédé comme extrêmement facile à utiliser, sans compétence technique requise. Les fonctionnalités permettaient d’ajuster la couleur de peau, la position et des caractéristiques physiques intimes. Aucune inscription n’était nécessaire et l’accès ne semblait pas filtrer la majorité.
Un tiers des jeunes âgés de 13 à 17 ans déclare avoir entendu parler des deepfakes, avec une proportion plus élevée chez les 15 à 17 ans et chez les adolescents dont les parents ont un niveau socioéconomique supérieur. Parmi ceux qui connaissent le concept, environ deux tiers estiment pouvoir en donner une définition.
Les images d’enfants dénudés peuvent être téléchargées sur la plateforme et des slogans promotionnels invitaient explicitement à tester le service. Le caractère transfrontalier de l’offre complique les mesures d’urgence et les demandes de retrait.
Enjeux juridiques et positions des autorités fédérales
Le droit pénal suisse prohibe la production et la diffusion de pornographie infantile et la manipulation d’images représentant des mineurs peut rentrer dans ce champ. Le procureur des mineurs évalue l’application des dispositions du code pénal et les possibilités de poursuite à l’égard des auteurs mineurs.
Les autorités fédérales surveillent le cadre européen et indiquent suivre le règlement AI Act pour ses implications extraterritoriales. Le Préposé fédéral à la protection des données évalue l’impact du traitement automatique de visages sur la protection des données personnelles. Insight clé déclaration d’orientation attendue par les cantons.
L’incident met en lumière la tension entre accessibilité des outils, limites techniques des détecteurs automatisés et responsabilité des plateformes sociales. Pour une école fictive illustrante, la remise en place de protocoles internes et la formation des élèves restent des mesures immédiates à prioriser.
