https://www.peren.gouv.fr/actualites/2025-01-10_aisummit_metadetector
À un mois du Sommet pour l’action sur l’IA, le Pôle d’expertise de la régulation numérique (PEReN) et Viginum invitent chercheurs et experts à participer au développement d’un commun numérique consistant en un méta-détecteur de contenus artificiels. Fondé sur une architecture open-source, l’outil recourt à une collection de détecteurs à l’état de l’art.
Le Sommet pour l’action sur l’IA, qui se tiendra à Paris les 10 et 11 février 2025, se concentrera sur des actions concrètes visant à garantir le développement et le déploiement de l’intelligence artificielle au bénéfice de nos sociétés, de nos économies et de l’environnement et ce, dans l’intérêt général et le respect du bien commun.
Pour contribuer aux travaux de cette rencontre internationale aux enjeux forts, le PEReN et Viginum ont élaboré, et partagé avec les acteurs internationaux des domaines de la confiance dans l’IA et de l’intégrité de l’information, une architecture open-source de méta-détecteur de contenus artificiels.
S’inscrivant dans une démarche ouverte et collaborative pour créer un véritable commun numérique, ce projet peut être librement testé et installé, et toutes les personnes détenant une expertise dans le domaine sont invitées à contribuer à son développement et à son perfectionnement.
Interroger simultanément une collection de détecteurs de contenus artificiels
Le principe du projet ? Développer les briques logicielles permettant d’agréger au sein d’un outil unique plusieurs, voire de nombreux détecteurs de contenus artificiels (aujourd’hui textes et images), existants ou à venir.
Ce méta-détecteur poursuit trois objectifs :
- Être facile d’utilisation -> De manière simple, le contenu à tester est envoyé au méta-détecteur pour analyse par l’ensemble ou une partie des détecteurs disponibles. Des détecteurs supplémentaires peuvent être aisément intégrés en suivant la documentation.
- Tirer parti des forces, faiblesses et complémentarités des détecteurs agrégés. -> Différents types de contenus sont adressés à tous les détecteurs pour déterminer notamment lesquels sont les plus performants par type de contenu. Un détecteur est-il plus efficace pour les visages et un autre pour les paysages ? Concernant les textes, un détecteur est-il préférable sur un format court et un autre pour une langue donnée ? Une fois cette information connue, le contenu pourra être poussé directement vers les détecteurs les plus pertinents, permettant à la fois gain de temps et fiabilité.
- Augmenter la robustesse et la performance de détection par l’association judicieuse de détecteurs entre eux. -> Dans une phase à venir, un grand volume de contenus pourra être adressé à un grand nombre de détecteurs pour identifier, sur la base de toutes les données générées, l’association de détecteurs qui tirera le meilleur avantage des caractéristiques de chacun. À plus court terme, l’analyse du comportement des détecteurs aux altérations typiques sur les contenus présents sur les réseaux permettra d’en augmenter la robustesse.
Un outil open-source, sous licence permissive, auquel chacun peut contribuer
Les premières briques logicielles structurant ce méta-détecteur de contenus artificiels sont publiées en open-source sur la forge logicielle ouverte du PEReN.
Ce projet se veut à la fois collaboratif et dynamique pour offrir le code élaboré à l’ensemble des acteurs scientifiques, économiques, publics et de la société civile. Si le PEReN et Viginum poursuivent leurs développements jusqu’à la tenue du Sommet, ils invitent d’ores et déjà toutes personnes le souhaitant à contribuer directement en ligne.
