French
English
Lieu de la thèse
campus de la Doua, Lyon, France
Contexte
Dans certains domaines comme le domaine médical ou le domaine industriel, on est amené à rechercher la présence d’anomalies internes (non visibles en surface) et à caractériser les anomalies détectées. Un moyen d’accéder à ces anomalies est l’imagerie qui peut être 2D ou 3D et de différente modalité (Rayon X, ultrasons, IRM, …). Dans cette thèse, La modalité principale étudiée est l’imagerie ultrasonore. Celle-ci présente l’avantage d’être non ionisante et peu couteuse mais elle est rarement accessible en 3D ce qui limite habituellement les possibilités de quantification. On s’intéressera ici à l’imagerie ultrasonore 3D appliquée au domaine médical pour la quantification des lésions de la matière blanche et au domaine industriel pour le diagnostic de défaut. Les bases de données sont rares sur ce sujet et disposent de peu d’exemple d’apprentissage. A notre connaissance, il n’existe qu’une seule publication sur la détection et segmentation des lésions de la matière blanche en échographie 3D (Erbacher et al, 2020). Dans le domaine industriel les difficultés sont liées au fait que les bases de données de pièces saines sont très faciles à obtenir, tandis que les exemples de défauts sont très rares.
Ces bases de données sont un élément incontournable pour la mise en place de méthodes par apprentissage et les approches développées doivent prendre en compte le manque de fiabilité des méthodes d’apprentissage lorsque l'échantillon d'entrée est hors de la distribution d'apprentissage ou corrompu par le bruit. Il est fondamental de pouvoir détecter automatiquement de telles défaillances pour intégrer les algorithmes d'apprentissage profond dans les applications médicales ou industrielles.
Mots-clés : détection et segmentation, apprentissage à faible supervision, méthodes non supervisées, incertitude sur les labels
Objectifs
Objectif principal. On veut développer des méthodes par apprentissage combinant des approches à faible supervision et sans supervision avec prise en compte des incertitudes sur les labels pour la détection et segmentation d’anomalies dans des volumes de données ultrasonores. Dans ce travail, nous explorerons l'utilisation de techniques et de mesures d'estimation de l'incertitude pour les réseaux neuronaux profonds appliquées à la détection d’anomalies, en particulier l’incertitude liée au faible nombre de données. In fine, les méthodes mises en place doivent permettre d’effectuer automatiquement des opérations de métrologie (localisation de l’anomalie dans le volume, quantification du volume d’anomalies, …) et proposer un niveau de confiance dans les mesures réalisées.
Objectif secondaire. On cherchera à vérifier que les méthodes développées puissent fonctionner sur des modalités différentes comme les rayons X par exemple (en effet les anomalies se caractérisent aussi par un faible contraste dans un environnement bruité).. On cherchera à privilégier des méthodes qui à performance comparable ont le plus faible nombre de paramètres et le plus faible coût de calcul de façon à ne pas fermer l’accès aux applications embarquées.
Verrous scientifiques
L’imagerie 3D ultrasonore reste peu répandue car elle souffre d’un manque de résolution pour détecter de petites anomalies faiblement contrastées. Cela explique le faible nombre d’étude sur ce sujet. Un moyen d’obtenir des données 3D hautement résolues est de procéder par balayage lors de l’acquisition. Cette méthode que nous avons utilisée nécessite une reconstruction des données 3D (Martin et al, 2018) qui elle-même peut être source d’erreur. La reconstruction peut par exemple légèrement déformer les anomalies ou modifier leur position. Ces incertitudes supplémentaires seront à prendre en compte au cours du projet et se combinent aux incertitudes sur les labels liées aux difficultés d’annotation rencontrées par les experts en raison du faible contraste entre les structures et du bruit de speckle caractéristique de ces images ultrasonores. Dans le domaine industriel, nous avons développé une méthode de segmentation associée à une étape de classification pour séparer les vrais défauts des artefacts (Osman 2015), sur des volumes ultrasonores de pièces en composites où le bruit de structure est important (Osman 2017). Cependant la méthode avait été validée sur des défauts artificiels en quantité limitée.
Contributions originales attendues
Ce projet va contribuer à développer l’imagerie ultrasonore 3D quantitative. Nous attendons principalement :
- le développement d’une méthode automatique d’aide à l’annotation des données par des méthodes de réduction de la dimension et prise en compte de la qualité locale de la projection
- le développement d’une méthode automatique de détection et segmentation des anomalies
- le développement d’un outil d’analyse quantitative des anomalies avec prise en compte des incertitudes
- le développement d’un outil d’aide à la décision dans lequel la sortie est associée à un indicateur de confiance
Ces résultats seront obtenus par des apports méthodologiques sur des outils avancés de deep learning (Dubost et al., 2019) (Loquercio et al., 2020) adaptés aux caractéristiques des données ultrasonores, c’est-à-dire : images bruitées à faible contraste (Wang et al., 2019) (Erbacher et al, 2020), avec incertitude sur les annotations (Song et al, 2020). Le cas spécifique du déséquilibre des classes sera envisagé si possible (faible nombre de lésions/défauts vs sujets/pièces sain(e)s
Programme de recherche et démarche scientifique proposée
Les axes de recherche à explorer seront définis et priorisés en fonction des défis méthodologiques à relever au début du projet de thèse. Ces défis seront définis à partir de l'examen de la bibliographie de l'état de l'art. Nous présentons ci-après un projet de calendrier qui sera mis à jour.
Année 1 : Etude bibliographique sur les méthodes d’apprentissage faiblement supervisées, non supervisées avec prise en compte des incertitudes sur les labels et les données. Analyse des méthodes multimodales (ultrasons, rayons X). Analyse et manipulation des jeux de données dans le but d’affiner les caractéristiques de ces données. Définition et priorisation des axes de recherche méthodologiques. Implémentation et analyse de différentes architectures d'apprentissage. Rédaction du premier article de conférence.
Année 2 : Analyse de comportement des différents paramètres du pipeline de détection segmentation au regard des 2 applications ultrasonores visées et des données rayons X. Mise à jour et analyse des performances du pipeline final dans les deux cas d'utilisation.
Année 3 : Rédaction d'un article. Analyse des performances du pipeline final sur le cas d'utilisation de données multimodales. Rédaction et soutenance de la thèse.
Pour le domaine médical, l’accès aux données est facilité par la participation d’un médecin à l’étude. Du côté industriel, nous ferons appel à un partenaire allemand (Ahmad Osman) avec lequel nous avons déjà collaboré qui travaille à l’institut Fraunhofer IZFP (Centre de contrôle Non Destructif).
Encadrement scientifique
Philippe Delachartre (CREATIS)
Philippe Guy (LVA) et Valérie KAFTANDJIAN (LVA)
Profil du candidat recherché (prérequis) :
Le/la candidat(e) doit posséder de solides connaissances théoriques et pratiques en apprentissage machine et de très bonnes compétences en programmation sur les outils Python et Pytorch. Le/la candidat(e) devra avoir une expérience de la recherche au travers d’un stage en R&D de durée conséquente (idéalement 5 ou 6 mois). Nous recherchons un(e) étudiant(e) enthousiaste et autonome, très motivé(e) et intéressé(e) par la recherche multidisciplinaire. Une formation de type ingénieur informatique et mathématiques appliquées ou un parcours universitaire de type info-math est recommandé pour ce sujet.
Objectifs de valorisation des travaux de recherche :
Soumission de travaux aux principales conférences internationales dans le domaine (MICCAI, MIDL, ICRA, IROS) et aux revues internationales d'analyse d'images (IEEE Trans Medical Imaging, Medical Image Analysis, ...). Compte tenu de la composante applicative du sujet, les activités de transfert vers la communauté seront également ciblées, via le développement et la distribution de solutions logicielles de démonstration.
Compétences qui seront développées au cours du doctorat :
Les aspects pluridisciplinaires du projet permettront au doctorant de développer sa capacité d'ouverture et de synthèse. Des compétences en deep learning pour l'imagerie industrielle et médicale seront développées.
Financement de la thèse : labex Celya
Perspectives professionnelles après le doctorat :
Recherche publique ou en entreprise dans le domaine de l'apprentissage machine pour le traitement du signal et de l'image.
Références bibliographiques sur le sujet de thèse :
Dubost, F., Adams, H., Bortsova, G., Ikram, M.A., Niessen, W., Vernooij, M., de Bruijne, M., 2019. 3D regression neural network for the quantification of enlarged perivascular spaces in brain MRI. Med. Image Anal. 51, 89–100. https://doi.org/10.1016/j.media.2018.10.008
P Erbacher, C Lartizien, M Martin, P Foletto-Pimenta, P Quetin, P Delachartre, Priority U-Net: Detection of Punctuate White Matter Lesions in Preterm Neonate in 3D Cranial Ultrasonography, Proceedings of Machine Learning Research, MIDL, 121: 205—216, 2020. http://proceedings.mlr.press/v121/erbacher20a/erbacher20a.pdf
Loquercio A, Segu M and Scaramuzza D, A General Framework for Uncertainty Estimation in Deep Learning, IEEE Robotics and Automation Letters, 5(4):3153–3160, 2020. http://dx.doi.org/10.1109/LRA.2020.2974682
Martin, M., Sciolla, B., Sdika, M., Wang, X., Quetin, P., Delachartre, P., 2018. Automatic Segmentation of the Cerebral Ventricle in Neonates Using Deep Learning with 3D Reconstructed Freehand Ultrasound Imaging, in: 2018 IEEE International Ultrasonics Symposium (IUS). pp. 1–4. https://doi.org/10.1109/ULTSYM.2018.8580214
A. OSMAN, U. HASSLER, V. KAFTANDJIAN, J.HORNEGGER, Automated segmentation of ultrasonic volumetric data of composite materials, Insight - Non-Destructive Testing and Condition Monitoring 2015; 57(3), p. 1-8.
Ahmad Osman, Valerie Kaftandjian. Characterization of speckle noise in three dimensional ultrasound data of material components. AIMS Materials Science, 2017, 4(4): 920-938. doi: 10.3934/matersci.2017.4.920
H Song, M Kim, D Park, J-G Lee, Learning from Noisy Labels with Deep NeuralNetworks: A Survey, under review, oct. 2020. https://arxiv.org/pdf/2007.08199.pdf
Wang, Y., Dou, H., Hu, X., Zhu, L., Yang, X., Xu, M., Qin, J., Heng, P., Wang, T., Ni, D., 2019. Deep Attentive Features for Prostate Segmentation in 3D Transrectal Ultrasound. IEEE Trans. Med. Imaging 38, 2768–2778. https://doi.org/10.1109/TMI.2019.2913184.