Réunion

Détection de contenus générés

Annonce

Journée commune entre le GDR IASIS, le GDR Sécurité informatique et le PEPR Cybersécurité (projet COMPROMIS)

La cellule gestion du GdR sera fermée du 13 au 20 avril. Par suite, il est fortement recommandé de formuler les demandes de prise en charge de missions par le GdR IASIS avant le 6 avril.

Dans un contexte dans lequel la génération de contenus par intelligence artificielle devient de plus en plus simple et accessible, la capacité à différencier les contenus générés de ceux qui ne le sont pas est primordiale. Le groupe de travail (GT) “Détection de Contenus Générés (DCG)” organisant cet événement se concentre sur l’analyse et la détection de contenus synthétisés par des modèles d’apprentissage profond tels que les modèles de langage (LLM) pour le texte, les modèles de diffusion pour les images, et bien d’autres applications.

La question de la détection des contenus générés va au-delà de la simple différenciation ; elle se situe également au cœur de la lutte contre les falsifications numériques. En effet, une partie seulement d’un contenu peut être générée, ce qui complique davantage l’identification des manipulations. Ces approches basées sur l’intelligence artificielle prennent progressivement le relais des méthodes traditionnelles de manipulation d’images et de vidéos (Photoshop, Gimp, etc.), et sont désormais intégrées directement dans ces outils (comme Adobe Firefly dans Photoshop). Cette évolution soulève des enjeux importants en termes de fiabilité, de sécurité, et d’éthique des contenus numériques.

L’événement se concentre sur plusieurs axes clés autour de la détection et de la manipulation de contenus par IA :

• Explicabilité des détecteurs et classificateurs d’IA : Comprendre et rendre transparent le fonctionnement des systèmes de détection afin d’améliorer leur fiabilité et leur interprétabilité.
• Détection de contenus générés par IA : Textes, audios, vidéos et autres formats.
• Localisation des manipulations par IA : Identifier où et comment l’intelligence artificielle a été utilisée pour modifier ou créer un contenu.
• Watermarking de l’IA : Techniques visant à intégrer des filigranes numériques permettant de tracer l’origine des contenus générés.

Orateurs invités

• Cecilia Pasquini, PhD (Center for Cybersecurity, Fondazione Bruno Kessler),
  https://sites.google.com/view/ceciliapasquini
• Luca Cuccovillo, PhD (Fraunhofer IDMT),
  https://scholar.google.com/citations?user=bOCxVOwAAAAJ&hl=en

Appel à contribution

Nous invitons les doctorants, post-doctorants et jeunes chercheurs/chercheuses à soumettre une proposition pour présenter leurs travaux lors de l’événement. Les présentations dureront entre 15 et 20 minutes, suivies de 5 minutes de questions-réponses. Ces interventions seront l’occasion de partager des recherches récentes et de stimuler des discussions autour des défis et des avancées dans le domaine de la détection et de la manipulation des contenus générés par l’intelligence artificielle.

Les présentations sont attendues en anglais (de préférence, pour pouvoir échanger avec les orateurs invités), ainsi que les supports de présentations.

Si vous êtes intéressé(e) à participer, veuillez envoyer un e-mail à jan.butora@cnrs.fr  d’ici le 1er avril, pour soumettre votre proposition et obtenir plus de détails sur le processus de soumission.

Nous encourageons vivement la participation de la communauté académique émergente et espérons avoir l’opportunité d’explorer ensemble les dernières avancées dans ce domaine passionnant.

Organisateurs :

• Jan Butora (CRIStAL)
• Eva Giboulot (INRIA Rennes)
• Vincent Itier (IMT Nord Europe)
• Pauline Puteaux (LIRMM)