En 2024, VIGINUM et le Pôle d'Expertise de la Régulation Numérique (PEReN) ont poursuivi leur collaboration, pour construire un méta-détecteur de contenus artificiels, notamment mis en avant lors du Sommet pour l’Action sur l’IA en février 2025. L'outil permet notamment d'évaluer la performance de plusieurs détecteurs de contenus artificiels déjà disponibles.
En 2024, le PEReN a renforcé ses liens avec VIGINUM, le service de vigilance contre les ingérences numériques étrangères, en développant un outil open source d’évaluation des détecteurs de contenus artificiels. Cette initiative illustre une volonté commune de doter l’État de moyens techniques souverains pour faire face aux manipulations informationnelles.
Le PEReN (Pôle d’Expertise de la Régulation Numérique) s’impose comme un acteur technique incontournable au service de l’État. En 2024, son rapport d’activité témoigne d’une montée en puissance stratégique, portée par une équipe de 30 experts mobilisés autour de projets à haute valeur ajoutée.
Le PEReN se distingue par son approche souveraine et mutualisée : aucun recours à des prestataires externes, une préférence affirmée pour les logiciels libres, et une volonté de capitaliser les compétences au sein des administrations. Cette philosophie permet de répondre aux enjeux complexes de la régulation des plateformes numériques et de l’intelligence artificielle, tout en respectant les contraintes budgétaires et techniques.
Parmi les réalisations marquantes de l’année, le PEReN a exploré la faisabilité technique de l’interopérabilité des réseaux sociaux, analysé les technologies de vérification d’âge pour la protection des mineurs, et évalué l’exploitabilité des registres publicitaires imposés par le Digital Services Act. Il a également mené des tests concrets sur la migration entre services cloud, anticipant les exigences du Data Act.
L’audit des algorithmes et des systèmes d’IA a pris une place centrale, avec des travaux sur les recommandations du pass Culture, la détection de pratiques tarifaires personnalisées dans le e-commerce, et la participation au réseau international des AI Safety Institutes. Le PEReN a aussi lancé un comparateur d’ouverture des modèles d’IA générative, outil précieux pour évaluer leur conformité aux standards open source.
Côté solutions techniques, le PEReN a enrichi sa suite d’outils de détection des bannières de consentement, développé une API de scraping mutualisée, et conçu des dispositifs pour collecter des données sur les applications mobiles. Il a également étudié l’impact énergétique des codecs vidéo, contribuant à une meilleure compréhension des enjeux environnementaux liés à la diffusion audiovisuelle.
Dans le cadre du Sommet pour l’action sur l’IA, le PEReN et VIGINUM ont co-développé un outil open source permettant d’évaluer la robustesse des détecteurs de contenus artificiels, notamment d’images et de textes générés par IA. Ce méta-détecteur, conçu pour fonctionner localement sans dépendance à des services tiers, offre une interface modulaire permettant d’ajouter facilement de nouveaux modèles. Il vise à tester leur efficacité sur des contenus proches de ceux diffusés sur les réseaux sociaux, dans une logique de transparence et de collaboration avec le monde académique.
Le code source est disponible sur la forge logicielle du PEReN
Complément :
Détecter des contenus artificiels sur les réseaux sociaux : un outil pour savoir à quels détecteurs se fier :