Réunion

Modèles génératifs : diffusion, flow matching

Annonce

Les inscriptions réalisées en juillet n’ont pas été prises en compte; il est nécessaire de se réinscrire.

Les demandes de prise en charge de mission par le GdR sont à formuler avant le 25 septembre.

Les modèles génératifs ont connu de récentes avancées spectaculaires, au point que leurs dernières versions sont désormais capables de produire des images et du texte synthétiques presque indiscernables de contenus réels. Parmi les approches ayant contribué à ces progrès, les approches de diffusion et de flow matching occupent une place centrale.

Cette réunion vise à faire le point sur les derniers développements dans le domaine des modèles génératifs.
L’appel à contributions est ouvert aux travaux portant sur des développements théoriques, algorithmiques, ou des applications. Une liste non exhaustive de thèmes inclut :

• modèles « one-step » (consistency, distillation, flow maps)
• alignement et guidance
• mémorisation et généralisation
• diffusion et flow matching pour les données discrètes et le texte
• liens avec le transport optimal
• évaluation des modèles génératifs
  

Orateur.ice.s invité.e.s

• Vicky Kalogeiton (LIX, Ecole Polytechnique) — Scale is religion?
• Anna Korba (CREST, ENSAE) —  A Unifying View of Variational Generative Wasserstein Flows
• Umut Simsekli (SIERRA, INRIA) — (TBA) 

L’appel à contribution (posters et/ou présentations de 20 min + 5 min de questions) est ouvert jusqu’au 20 septembre soir ; les propositions (titre + abstract en anglais) sont à envoyer à mathurin.massias@gmail.com et et segolene.martin@inria.fr . All the talks will be in English.

Organisateur.ice.s

• Ségolène Martin (OCKHAM, INRIA)
• Mathurin Massias (OCKHAM, INRIA)

La journée bénéficie du soutien de l’Institut Rhônalpin des Systèmes Complexes (IXXI)

Abstracts:
Anna Korba:  A Unifying View of Variational Generative Wasserstein Flows
Many modern generative models can be viewed as minimizing divergences between probability distributions, yet they rely on different algorithmic and geometric principles. Wasserstein gradient flows provide a continuous-time formulation for optimizing over distributions, and can be approximated through their implicit discretization via the Jordan-Kinderlehrer-Otto (JKO) scheme. In this work, we present a unified theoretical framework for generative modeling based on Wasserstein gradient flows, which we refer to as Generative Wasserstein Flows (GWF). We show that a broad class of existing methods can be derived as instances of parametric JKO schemes for f-divergence objectives, and we establish equivalences between several recently proposed algorithms. We extend this framework beyond f-divergence to Integral Probability Metrics and squared Maximum Mean Discrepancy, deriving new JKO-based generative algorithms, and clarifying their connections with GANs. We study empirically the impact of the JKO regularization for a wide set of objectives. Finally, we analyze parametric Wasserstein flows, where the dynamics are restricted to distributions induced by parametrized maps. This is a joint work with Paul Caucheteux (CREST, ENSAE, IP Paris) and Clément Bonet (CMAP, Polytechnique, IP Paris).

Vicky Kalogeiton: Scale is religion?
Intelligent robots do not just respond to commands; they imagine what you meant, what you wanted, what you believed. And they do this while learning from very little, and running on a chip in your living room. In this talk, I will present recent advances in generative modeling that aim to equip embodied agents with efficient models that can run faster, with fewer data, and more efficient models and imagine possible futures under uncertainty.