Un modèle basé sur un transformateur Swin pour la détection de nodules thyroïdiens dans des images échographiques

Résumé

Ici, un nouveau modèle pour la détection des nodules thyroïdiens dans les images échographiques est proposé, qui utilise Swin Transformer comme épine dorsale pour effectuer une modélisation contextuelle à longue distance. Les expériences prouvent qu’il fonctionne bien en termes de sensibilité et de précision.

Résumé

Ces dernières années, l’incidence du cancer de la thyroïde a augmenté. La détection des nodules thyroïdiens est essentielle à la fois pour la détection et le traitement du cancer de la thyroïde. Les réseaux de neurones convolutifs (CNN) ont obtenu de bons résultats dans les tâches d’analyse d’images échographiques thyroïdiennes. Cependant, en raison du champ réceptif valide limité des couches convolutionnelles, les CNN ne parviennent pas à capturer les dépendances contextuelles à longue portée, qui sont importantes pour identifier les nodules thyroïdiens dans les images échographiques. Les réseaux de transformateurs sont efficaces pour capturer des informations contextuelles à longue portée. Inspirés par cela, nous proposons une nouvelle méthode de détection des nodules thyroïdiens qui combine le squelette Swin Transformer et Faster R-CNN. Plus précisément, une image échographique est d’abord projetée dans une séquence 1D d’intégrations, qui sont ensuite introduites dans un transformateur Swin hiérarchique.

Le backbone Swin Transformer extrait les caractéristiques à cinq échelles différentes en utilisant des fenêtres décalées pour le calcul de l’auto-attention. Par la suite, un réseau pyramidal d’entités (FPN) est utilisé pour fusionner les caractéristiques de différentes échelles. Enfin, une tête de détection est utilisée pour prédire les cadres englobants et les scores de confiance correspondants. Les données recueillies auprès de 2 680 patients ont été utilisées pour mener les expériences, et les résultats ont montré que cette méthode a obtenu le meilleur score mAP de 44,8%, surpassant les lignes de base basées sur CNN. De plus, nous avons gagné en sensibilité (90,5%) que les concurrents. Cela indique que la modélisation contextuelle dans ce modèle est efficace pour la détection des nodules thyroïdiens.

Introduction

L’incidence du cancer de la thyroïde a augmenté rapidement depuis 1970, en particulier chez les femmes d’âge moyen¹. Les nodules thyroïdiens peuvent prédire l’émergence d’un cancer de la thyroïde, et la plupart des nodules thyroïdiens sont asymptomatiques². La détection précoce des nodules thyroïdiens est très utile pour guérir le cancer de la thyroïde. Par conséquent, selon les directives de pratique actuelles, tous les patients présentant un goitre nodulaire suspecté à l’examen physique ou présentant des résultats d’imagerie anormaux devraient subir un examen plus approfondi ^3,4.

L’échographie thyroïdienne (US) est une méthode couramment utilisée pour détecter et caractériser les lésions thyroïdiennes ^5,6. Les États-Unis sont une technologie pratique, peu coûteuse et sans rayonnement. Cependant, l’application des États-Unis est facilement affectée par l’opérateur ^7,8. Des caractéristiques telles que la forme, la taille, l’échogénicité et la texture des nodules thyroïdiens sont facilement reconnaissables sur les images américaines. Bien que certaines caractéristiques américaines - calcifications, échogénicité et bordures irrégulières - soient souvent considérées comme des critères d’identification des nodules thyroïdiens, la présence d’une variabilité inter-observateurs est inévitable ^8,9. Les résultats de diagnostic des radiologues ayant différents niveaux d’expérience sont différents. Les radiologistes inexpérimentés sont plus susceptibles de mal diagnostiquer que les radiologistes expérimentés. Certaines caractéristiques de l’US telles que les reflets, les ombres et les échos peuvent dégrader la qualité de l’image. Cette dégradation de la qualité d’image causée par la nature de l’imagerie américaine rend difficile même pour les médecins expérimentés de localiser les nodules avec précision.

Le diagnostic assisté par ordinateur (CAD) des nodules thyroïdiens s’est développé rapidement ces dernières années et peut réduire efficacement les erreurs causées par différents médecins et aider les radiologues à diagnostiquer les nodules rapidement et avec précision^10,11. Divers systèmes de CAO basés sur CNN ont été proposés pour l’analyse des nodules thyroïdiens américains, y compris la segmentation 12,13, la détection 14,15 et la classification ^16,17. CNN est un modèle d’apprentissage supervisé^{multicouche 18}, et les modules de base de CNN sont les couches de convolution et de pooling. Les couches de convolution sont utilisées pour l’extraction d’entités et les couches de regroupement sont utilisées pour le sous-échantillonnage. Les calques convolutifs d’ombre peuvent extraire des entités primaires telles que la texture, les bords et les contours, tandis que les calques convolutifs profonds apprennent des entités sémantiques de haut niveau.

Les CNN ont eu beaucoup de succès dans la vision par ordinateur 19,20,21. Cependant, les CNN ne parviennent pas à capturer les dépendances contextuelles à longue portée en raison du champ récepteur valide limité des couches convolutionnelles. Dans le passé, les architectures de base pour la classification d’images utilisaient principalement des CNN. Avec l’avènement de Vision Transformer (ViT)^22,23, cette tendance a changé^, et maintenant de nombreux modèles de pointe utilisent des transformateurs comme épine dorsale. Basé sur des patchs d’image qui ne se chevauchent pas, ViT utilise un codeur de transformateur standard²⁵ pour modéliser globalement les relations spatiales. Le Swin Transformer²⁴ introduit en outre des fenêtres de changement de vitesse pour apprendre les fonctionnalités. Les fenêtres de changement de vitesse apportent non seulement une plus grande efficacité, mais réduisent également considérablement la longueur de la séquence car l’attention personnelle est calculée dans la fenêtre. Dans le même temps, l’interaction entre deux fenêtres adjacentes peut se faire par l’opération de déplacement (mouvement). L’application réussie du transformateur Swin en vision par ordinateur a conduit à l’étude d’architectures basées sur des transformateurs pour l’analyse d’images par ultrasons²⁶.

Récemment, Li et al. ont proposé une approche d’apprentissage profond²⁸ pour la détection du cancer papillaire thyroïdien inspirée de Faster R-CNN²⁷. Faster R-CNN est une architecture classique de détection d’objets basée sur CNN. Le Faster R-CNN original comporte quatre modules: le backbone CNN, le réseau de proposition de région (RPN), la couche de mise en commun du retour sur investissement et la tête de détection. Le backbone CNN utilise un ensemble de couches conv+bn+relu+pooling de base pour extraire les cartes d’entités de l’image d’entrée. Ensuite, les cartes d’entités sont introduites dans le RPN et la couche de regroupement de retour sur investissement. Le rôle du réseau RPN est de générer des propositions régionales. Ce module utilise softmax pour déterminer si les ancres sont positives et génère des ancres précises par régression du cadre englobant. La couche de regroupement de ROI extrait les cartes d’entités de proposition en collectant les cartes d’entités et les propositions d’entrée et alimente les cartes d’entités de proposition dans la tête de détection suivante. La tête de détection utilise les cartes d’entités de proposition pour classer les objets et obtenir des positions précises des boîtes de détection par régression du cadre englobant.

Cet article présente un nouveau réseau de détection de nodules thyroïdiens appelé Swin Faster R-CNN formé en remplaçant le réseau fédérateur CNN dans Faster R-CNN par le transformateur Swin, ce qui permet une meilleure extraction des caractéristiques de détection des nodules à partir d’images échographiques. En outre, le réseau pyramidal de caractéristiques (FPN)²⁹ est utilisé pour améliorer les performances de détection du modèle pour les nodules de différentes tailles en agrégeant des caractéristiques de différentes échelles.

Protocole

Cette étude rétrospective a été approuvée par le comité d’examen institutionnel de l’hôpital de Chine occidentale, Université du Sichuan, Sichuan, Chine, et l’exigence d’obtenir un consentement éclairé a été levée.

1. Configuration de l’environnement

1. Logiciel d’unité de traitement graphique (GPU)
   1. Pour implémenter des applications de deep learning, configurez d’abord l’environnement lié au GPU. Téléchargez et installez les logiciels et pilotes appropriés au GPU à partir du site Web du GPU.
      REMARQUE : Voir le tableau des matériaux pour ceux utilisés dans cette étude.
2. Installation de Python3.8
   1. Ouvrez un terminal sur la machine. Tapez ce qui suit :
      Ligne de commande: sudo apt-get install python3.8 python-dev python-virtualenv
3. Installation de Pytorch1.7
   1. Suivez les étapes sur le site officiel pour télécharger et installer Miniconda.
   2. Créez un environnement conda et activez-le.
      Ligne de commande: conda create --name SwinFasterRCNN python=3.8 -y
      Ligne de commande: conda activate SwinFasterRCNN
   3. Installez Pytorch.
      Ligne de commande: conda install pytorch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2
4. Installation de MMDetection
   1. Cloner à partir du dépôt officiel Github.
      Ligne de commande : git clone https://github.com/open-mmlab/mmdetection.git
   2. Installez MMDetection.
      Ligne de commande : cd mmdetection
      Ligne de commande : pip install -v -e .

2. Préparation des données

1. Collecte de données
   1. Recueilli les images échographiques (ici, 3 000 cas d’un hôpital tertiaire de grade A). Assurez-vous que chaque cas a des dossiers de diagnostic, des plans de traitement, des rapports américains et les images américaines correspondantes.
   2. Placez toutes les images américaines dans un dossier nommé « images ».
      REMARQUE: Les données utilisées dans cette étude comprenaient 3 853 images américaines provenant de 3 000 cas.
2. Nettoyage des données
   1. Vérifiez manuellement l’ensemble de données pour obtenir des images de zones non thyroïdiennes, telles que des images lymphatiques.
   2. Vérifiez manuellement le jeu de données pour les images contenant un flux Doppler couleur.
   3. Supprimez les images sélectionnées lors des deux étapes précédentes.
      REMARQUE: Après le nettoyage des données, 3 000 images ont été laissées sur 2 680 cas.
3. Annotation de données
   1. Demandez à un médecin principal de localiser la zone nodulaire dans l’image américaine et de définir la limite du nodule.
      REMARQUE : Le logiciel et le processus d’annotation se trouvent dans le fichier supplémentaire 1.
   2. Demandez à un autre médecin principal d’examiner et de réviser les résultats de l’annotation.
   3. Placez les données annotées dans un dossier séparé appelé « Annotations ».
4. Répartition des données
   1. Exécutez le script python et définissez le chemin de l’image à l’étape 2.1.2 et les chemins des annotations à l’étape 2.3.3. Divisez au hasard toutes les images et les fichiers étiquetés correspondants en ensembles d’apprentissage et de validation à un ratio de 8:2. Enregistrez les données du jeu d’entraînement dans le dossier « Train » et les données du jeu de validation dans le dossier « Val ».
      Remarque : les scripts Python sont fournis dans le fichier supplémentaire 2.
5. Conversion au format de jeu de données CoCo
   REMARQUE : Pour utiliser MMDetection, traitez les données dans un format de jeu de données CoCo, qui inclut un fichier json contenant les informations d’annotation et un dossier d’images contenant les images américaines.
   1. Exécutez le script python et entrez les chemins du dossier d’annotations (étape 2.3.3) pour extraire les zones de nodules définies par le médecin et les convertir en masques. Enregistrez tous les masques dans le dossier « Masques ».
      Remarque : Les scripts Python sont fournis dans le fichier supplémentaire 3.
   2. Exécutez le script python et définissez le chemin du dossier masks à l’étape 2.5.1 pour transformer les données en un jeu de données au format CoCo et générer un fichier json avec les images américaines.
      Remarque : Les scripts Python sont fournis dans le fichier supplémentaire 4.

3. Configuration RCNN Swin Faster

1. Téléchargez le fichier de modèle Swin Transformer (https://github.com/microsoft/Swin-Transformer/blob/main/models/swin_transformer.py), modifiez-le et placez-le dans le dossier « mmdetection/mmdet/models/backbones/ ». Ouvrez le fichier « swin_transformer.py » dans un éditeur de texte vim et modifiez-le en tant que fichier modèle Swin Transformer fourni dans le fichier supplémentaire 5.
   Ligne de commande : vim swin_transformer.py
2. Faites une copie du fichier de configuration Faster R-CNN, remplacez le backbone par Swin Transformer et configurez les paramètres FPN.
   Ligne de commande : cd mmdetection/configs/faster_rcnn
   Ligne de commande : cp faster_rcnn_r50_fpn_1x_coco.py swin_faster_rcnn_swin.py
   Remarque : Le fichier de configuration R-CNN Swin Faster (swin_faster_rcnn_swin.py) est fourni dans le fichier supplémentaire 6. La structure du réseau Swin Faster R-CNN est illustrée à la figure 1.
3. Définissez le chemin d’accès du jeu de données au format CoCo (étape 2.5.2) dans le fichier de configuration. Ouvrez le fichier « coco_detection.py » dans l’éditeur de texte vim et modifiez la ligne suivante :
   data_root = « chemin du jeu de données (étape 2.5.2) »
   Ligne de commande : vim mmdetection/configs/_base_/datasets/coco_detection.py

4. Entraînement du Swin Faster R-CNN

1. Modifiez mmdetection/configs/_base_/schedules/schedule_1x.py et définissez les paramètres par défaut liés à l’entraînement, notamment le taux d’apprentissage, l’optimiseur et l’époque. Ouvrez le fichier « schedule_1x.py » dans l’éditeur de texte vim et modifiez les lignes suivantes:
   optimizer = dict(type="AdamW », lr=0.001, momentum=0.9, weight_decay=0.0001)
   runner = dict(type='EpochBasedRunner', max_epochs=48)
   Ligne de commande : vim mmdetection/configs/_base_/schedules/schedule_1x.py
   REMARQUE: Dans ce protocole pour cet article, le taux d’apprentissage a été défini sur 0,001, l’optimiseur AdamW a été utilisé, l’époque d’entraînement maximale a été définie sur 48 et la taille du lot a été définie sur 16.
2. Commencez la formation en tapant les commandes suivantes. Attendez que le réseau commence à s’entraîner pendant 48 époques et que les poids entraînés du réseau Swin Faster R-CNN soient générés dans le dossier de sortie. Enregistrez les poids du modèle avec la plus grande précision sur le jeu de validation.
   Ligne de commande : cd mmdetection
   Ligne de commande : python tools/train.py congfigs/faster_rcnn/swin_faster_rcnn_swin.py --work-dir ./work_dirs
   REMARQUE: Le modèle a été formé sur un GPU « NVIDIA GeForce RTX3090 24G ». L’unité centrale utilisée était le « processeur AMD Epyc 7742 64-core × 128 », et le système d’exploitation était Ubuntu 18.06. La durée totale de l’entraînement était de ~2 h.

5. Détection de nodules thyroïdiens sur de nouvelles images

1. Après l’entraînement, sélectionnez le modèle présentant les meilleures performances sur le kit de validation pour la détection des nodules thyroïdiens dans les nouvelles images.
   1. Tout d’abord, redimensionnez l’image à 512 pixels x 512 pixels et normalisez-la. Ces opérations sont effectuées automatiquement lors de l’exécution du script de test.
      Ligne de commande: python tools/test.py congfigs/faster_rcnn/swin_faster_rcnn_swin.py --out ./output
   2. Attendez que le script charge automatiquement les paramètres du modèle préentraînés dans le Swin Faster R-CNN et introduisez l’image prétraitée dans le Swin Faster R-CNN pour inférence. Attendez que le Swin Faster R-CNN affiche la boîte de prédiction pour chaque image.
   3. Enfin, autorisez le script à effectuer automatiquement le post-traitement NMS sur chaque image pour supprimer les zones de détection en double.
      Remarque : les résultats de détection sont sortis dans le dossier spécifié, qui contient les images avec les zones de détection et les coordonnées du cadre de sélection dans un fichier compressé.

Résultats

Les images de la thyroïde américaine ont été recueillies dans deux hôpitaux en Chine de septembre 2008 à février 2018. Les critères d’éligibilité pour inclure les images américaines dans cette étude étaient l’examen américain conventionnel avant la biopsie et le traitement chirurgical, le diagnostic par biopsie ou pathologie postopératoire et l’âge ≥ 18 ans. Les critères d’exclusion étaient les images sans tissus thyroïdiens.

Les 3 000 images échographiques compre...

Discussion

Ce document décrit en détail comment effectuer la configuration de l’environnement, la préparation des données, la configuration du modèle et la formation réseau. Dans la phase de configuration de l’environnement, il faut faire attention à ce que les bibliothèques dépendantes soient compatibles et assorties. Le traitement des données est une étape très importante; Il faut consacrer du temps et des efforts pour assurer l’exactitude des annotations. Lors de l’apprentissage du modèle, un « ModuleNotFo...

matériels

Name	Company	Catalog Number	Comments
GPU RTX3090	Nvidia	1	24G GPU
mmdetection2.11.0	SenseTime	4	https://github.com/open-mmlab/mmdetection.git
python3.8	—	2	https://www.python.org
pytorch1.7.1	Facebook	3	https://pytorch.org