Annonce

Les commentaires sont clos.

Interprétabilité des modèles Transformers dans l’analyse des images médicales

15 December 2023

Catégorie : Stagiaire

Contexte

D’après les chiffres de l’Organisation Mondiales de la Santé en 2023, 2.2 milliards de personnes dans le monde sont touchées par des problèmes de vision. Un dépistage précoce pourrait épargner des problèmes de vue à près d’un milliard d’entre elles. Dans ce contexte, le LabCOM ADMIRE a été créé avec pour mission la mise en place d’une solution permettant un dépistage automatique couvrant toutes les pathologies affectant l'œil ou visibles à travers l'œil.

Cet objectif s’est concrétisé avec la commercialisation de OphtAI2 par Evolucare Technologies (basée à Villers-Bretonneux, France) en partenariat avec ADCIS. OphtAI est un algorithme automatisé développé par le LaTIM pour identifier des anomalies oculaires telles que la rétinopathie diabétique, le glaucome, et la dégénérescence maculaire liée à l'âge, en se basant sur des images du fond d'œil, et rivalise en performance avec un expert rétinien.

Depuis quelques années, l’utilisation de la Tomographie par Cohérence Optique(OCT) pour le dépistage de pathologies a considérablement augmenté, permettant de reconstruire la rétine en deux et trois dimensions. Nous travaillons actuellement sur la conception de nouveaux algorithmes pour le dépistage multi pathologique sur les OCT basé sur les algorithmes d’apprentissage profond, notamment les Transformers qui sont très populaires et ne cessent de gagner en popularité dans diverses tâches de l’analyse automatique des images médicales[1].

Cependant, un défaut majeur de l’apprentissage profond est l'effet boîte noire, où l'algorithme fournit un résultat sans expliquer son processus de décision. Clarifier les points clés utilisés par l'algorithme lors de son analyse est crucial pour gagner la confiance des professionnels de santé. Des recherches sur l’interprétabilité ont déjà été entreprises par les équipes du LaTIM, notamment sur des photographies du fond d'œil et des algorithmes basés sur des réseaux à convolution[2]. Nous nous orientons désormais vers l'exploration des méthodes d’interprétabilité dans les réseaux de type Transformer, afin d'intégrer les dernières innovations en apprentissage profond tout en facilitant leur acceptation et utilisation en milieu clinique.

 

Description

Une IA explicable est essentielle pour assurer des décisions claires et transparentes, ce qui augmente la confiance et l'acceptation dans le domaine médical[3]. L’approche classique dans les réseaux Transformer consiste à examiner les poids d'attention au sein du modèle pour fournir une interprétabilité sur la décision du modèle. D’autres méthodes, comme les articles de Hao et al.[4]. Pan et al.[5] ont proposé des méthodes d’interprétabilité applicables aux images et aux vidéos seront aussi étudiés. L'objectif de ce stage est d'étudier les techniques d’interprétabilité appliquées aux réseaux de type Transformer pour la classification d'images OCT (Tomographie par Cohérence Optique) en 2D et 3D. Deux ensembles de données OCT seront utilisés : OCT2017[6] (base publique, comprenant 84400 B-scans OCT 2D) et OCTBREST (base privée, 663 volumes OCT 3D).

 

Les responsabilités du stagiaire sélectionné incluent :

  • la compréhension et l'implémentation des méthodes présentées dans les papiers [4] et [5].
  • une analyse approfondie des méthodes d’interprétabilité pour les Transformers dans la classification d'images médicales.
  • le développement et l’évaluation des techniques d’interprétabilité en 2D et 3D.

 

Profil

Nous recherchons des candidats fortement motivés par des sujets de recherche en intelligence artificielle et en analyse d’images médicales.

Compétences Techniques :

  • Compétence en programmation : Python, Pytorch
  • Connaissance en Deep Learning, notamment les Visions Transformers(ViT)
  • Compétence en traitement d’images médical est un plus
  • Langues : Français, Anglais

Détails

 

1https://anr.fr/Projet-ANR-19-LCV2-0005

2https://www.ophtai.com/fr/

 

[1]E. U. Henry, O. Emebob, et C. A. Omonhinmin, « Vision Transformers in Medical Imaging: A Review ». arXiv, 18 novembre 2022. Disponible sur: http://arxiv.org/abs/2211.10043

[2]G. Quellec, H. Al Hajj, M. Lamard, P.-H. Conze, P. Massin, et B. Cochener, « ExplAIn: Explanatory artificial intelligence for diabetic retinopathy diagnosis », Med. Image Anal., vol. 72, p. 102118, août 2021, doi: 10.1016/j.media.2021.102118.

[3]Y. Qiang, C. Li, P. Khanduri, et D. Zhu, « Interpretability-Aware Vision Transformer ». arXiv, 14 septembre 2023. Disponible sur: http://arxiv.org/abs/2309.08035

[4]Y. Hao, L. Dong, F. Wei, et K. Xu, « Self-Attention Attribution: Interpreting Information Interactions Inside Transformer », Proc. AAAI Conf. Artif. Intell., vol. 35, no 14, Art. no 14, mai 2021, doi: 10.1609/aaai.v35i14.17533.

[5]B. Pan, R. Panda, Y. Jiang, Z. Wang, R. Feris, et A. Oliva, « IA-RED2: Interpretability-Aware Redundancy Reduction for Vision Transformers ».

[6]D. S. Kermany et al., « Identifying Medical Diagnoses and Treatable Diseases by Image-Based Deep Learning », Cell, vol. 172, no 5, p. 1122-1131.e9, févr. 2018, doi: 10.1016/j.cell.2018.02.010.