Internet et Intelligence Artificielle, les nouveaux défis de la prise en charge des violences sur mineurs (table-ronde, Assemblée nationale)
Paru dans Scolaire, Périscolaire, Justice le jeudi 18 janvier 2024.
“On constate une forte porosité entre la pédocriminalité en ligne et les violences sexuelles sur mineurs“, déclare Gabrielle Hazan, cheffe de l'OFMIN, mercredi 17 janvier aux députés de la Commission des droits de l'enfant lors d'une table-ronde organisée à l'Assemblée nationale autour de la prise en charge des violences sur mineurs.
Créé en septembre 2023, l’Office des mineurs qui est intégré au Ministère de l'intérieur compte actuellement 40 salariés et se fixe pour cible 85 effectifs. Ses trois principaux objectifs, explique-t-elle, sont de reconnaître la spécificité de la délinquance faite aux enfants, de contribuer à la coordination des professionnels de la protection de l'enfance, et enfin d'améliorer le traitement judiciaire, une “tâche immense quand on sait que 75 % des dossiers de violences sexuelles font l'objet d'un classement sans suite“.
Concernant cette dernière mission, Gabrielle Hazan aimerait pouvoir exploiter des contenus informatiques : “on souhaiterait que la logique qui oppose la parole de l'enfant et la parole de l'auteur soit dépassée, car la confrontation n'apporte pas une valeur probante suffisante" pour permettre "une réponse judiciaire à la hauteur des enjeux“, explique-t-elle, d'où l'idée de se doter d'autres techniques d'investigation, par exemple "partager des techniques d'enquêtes utilisées en matière de pédocriminalité en ligne pour des dossiers d'inceste“.
Prévenir et sensibiliser
Si la gendarmerie ne dispose pas d'unité dédiée à la protection des mineurs, les Maisons de protection des familles (MPF) “ont un rôle central sur l'aspect à la fois préventif et répressif,“ a de son côté souligné le Lieutenant-Colonel Serge Procédès, de la SDPJ (sous-direction de la police judiciaire de la gendarmerie nationale), notamment au regard de leur portée globale et de la “densité“ des interventions dans les écoles pour des actions de sensibilisation, avec 121 000 élèves de primaire qui ont reçu le permis internet en 2021. Beaucoup de ces structures, ajoute-t-il, “vont revoir ces enfants en fin de collège ou au début du lycée pour les sensibiliser au danger des menaces en ligne“, parce que les adolescents peuvent être autant auteurs que victimes de harcèlement, ils peuvent être exposés au problème prostitutionnel. "En faire des citoyens éclairés sur la manière dont les réseaux sociaux doivent être utilisés est vraiment une mission importante pour la gendarmerie."
Pour Christophe Molmy, commissaire général et chef de la brigade de protection des mineurs de Paris (BPM), qui compte une centaine d'enquêteurs formés à l'audition des mineurs victimes et au protocole du NICHD (National Institute of Child Health and Human Development), il convient de distinguer les affaires intra et extra familiales. En 2019, précise-t-il, ont été enregistrées 600 saisines, principalement sur le parquet de Paris (la BPM travaille aussi sur la petite couronne, ndlr), pour 1 400 en 2023.
Les vrais bouleversements se situent selon lui du côté des affaires extra familiales et sont “liés à des comportements des mineurs souvent charriés par internet ou les réseaux sociaux, c'est à dire des mises en danger de mineurs qui rencontrent des adultes ou d'autres mineurs“ pouvant engendrer des mises en situation difficiles qui aboutissent parfois à des viols, à de la sextorsion. Il cite à ce titre le nombre d'affaires de proxénétisme des mineurs qui a grimpé de 12 en 2013, à 120 l'an dernier. Selon les associations, il y aurait 12 à 15 000 mineurs qui se prostituent en France, et probablement la moitié sur la région parisienne : “on a dû s'adapter" car sur cette population “les comportements des mineurs, l'accès à la pornographie dès l'âge de 8 ans, les comportements à risque comme se filmer, se mettre en danger, plus les prédateurs autour font qu'on a énormément de dossiers, on est passés de 250 viols en 2019 à 750 en 2023 sur ou entre mineurs“, c'est une matière "en perpétuelle évolution“.
En outre, il est question de “phénomènes profonds de société“, d'une vraie mise en danger des mineurs : “je pense que les réseaux sociaux sont vraiment au cœur d'une bonne partie des problématiques des services qui luttent contre les affaires dont les mineurs sont victimes“, avec une exposition facile, une “habitude“ désormais courante chez des jeunes de filmer des rapports sexuels, “une certaine naïveté liée au très jeune âge“, une “tendance à croire n'importe quoi : vous avez des jeunes filles qui tombent amoureuses au bout de deux échanges sur un réseau social et qui vont rencontrer un garçon dans l'intention d'avoir des rapports sexuels avec, et qui se retrouvent dans des caves avec 4-5 garçons“, tandis qu'à côté, "on voit une forme de dépassement de certains parents qui ne maîtrisent plus rien“.
Intelligence Artificielle.. et pédocriminelle
Un “nouveau phénomène émergent“ est également à l’œuvre et inquiète Gabrielle Hazan, cheffe de l’Office des mineurs : images pédocriminelles générées par l'intelligence artificielle (IA), créées de toute pièce ou à partir de l'image de mineurs.
Elle raconte d'ailleurs que “les Espagnols sont confrontés à des premiers cas de sextorsion“, où on récupère l'image d'un mineur sur les réseaux sociaux, il est ensuite déshabillé par un outil d'IA puis un chantage sexuel est mis en place par l'auteur en menaçant de diffuser l'image générée auprès des proches de l'enfant, "soit pour obtenir des faveurs sexuelles, soit majoritairement pour obtenir un paiement“. Ce qui fonctionne en général, précisera-t-elle.
Mais surtout, le risque est de voir augmenter le nombre de signalements et à terme une saturation des services d'enquête : “on a reçu 320 000 signalements de contenus pédocriminels échangés ou partagés en 2023“ alors que seuls sont judiciarisés moins de 1 % de ces signalements.
Il y a aussi un risque de banalisation et normalisation, prévient-elle, d'autant que les “géants du Net“ semblent peu coopératifs, arguant, pour s'opposer à la détection des contenus potentiellement illicites, qu'il existerait des “faux positifs“ qui pourraient être détectés ce qui pourrait déclencher à tort un processus judiciaire. Pour Gabrielle Hazan, si ce risque peut exister il reste “très limité“, et “c'est faire peu confiance aux services d'enquête de dire que quand on reçoit un contenu, on ne le visionne pas avant d'ouvrir une procédure judiciaire“. De plus, les géants du Net voudraient mettre en place de bout en bout un chiffrement de leur messagerie “ce qui nous pose de réelles difficultés opérationnelles“, entre autres pour la détection de contenus “inconnus“, c'est à dire “nouveaux, issus d'une production personnelle“, car l'auteur de ces contenus, qui les diffuse ensuite, serait “très souvent l'auteur qui a commis un abus sexuel sur un enfant de son entourage“.
La vidéo ici