Açık kaynak veri seti ile eğitilen yapay zeka modellerinin klinik ortamdaki performans analizi

Abstract

Amaç: Derin öğrenmeye dayalı tümör tespiti ve bölütleme yöntemleri uzun süreden beri geliştirilmekte olup, günümüzde ise literatürde yaygın olarak yer almaktadır. Geliştirilen yapay zekaya tabanlı derin öğrenme yöntemleri genellikle evrişimsel sinir ağlarına dayanan mimariler kullanırken, günümüzde ise görsel transformatör mimarilerine dayalı metotlar yaygın olarak geliştirilmektedir. Bu çalışmada, bahsedilen bu iki derin öğrenme yaklaşımının literatürde sıklıkla kullanılan veri seti üzerinde eğitilmiş ve hastane ortamından elde edilen gerçek klinik veriler üzerinde test edilmiştir. Böylece açık veri setleri üzerinde eğitilen modellerin gerçek klinik ortamlarda 5 farklı lezyon türü üzerinde kullanım verimliliklerinin ve genelleştirme kabiliyetlerinin ölçülmesi amaçlanmıştır. Gereç ve Yöntem: Açık veri seti olarak BraTS 2020 kullanılarak, ESA ve GT yapılarını içeren 8 adet derin öğrenme modeli eğitilmiştir. Eğitilen modeller Ankara Üniversitesi Tıp Fakültesi Radyoloji Bölümü doktorları tarafından hazırlanan ve etiketlenen MR görüntüleri kullanılarak test edilmiş ve derin öğrenme modellerinin performansı IoU ve Dice katsayısı metrikleri kullanılarak raporlanmıştır. Bulgular: Lezyon türlerine göre yapılan analizler değerlendirildiğinde, BraTS 2020 veri setinde eğitilen modeller, Ankara Üniversitesi’ne ait veriler üzerinde test edildiğinde: HGG lezyonuna ait, NCR/NET, Edema ve Enhancing Tumor etiketleri için sırasıyla yaklaşık olarak ortalama -%17, -%4 ve -%9 performans ödünleşimi, LGG lezyonuna ait, NCR/NET ve Enhancing Tumor etiketleri için sırasıyla yaklaşık olarak ortalama -%45, -%30 performans ödünleşimi, Kavernom lezyonuna ait, Edema etiketi için yaklaşık olarak ortalama -%60 performans ödünleşimi, Menenjiom lezyonuna ait, Edema ve Enhancing Tumor etiketleri için sırasıyla yaklaşık olarak ortalama -%36, ve -%33 performans ödünleşimi, Schwannom lezyonuna ait, Edema ve Enhancing Tumor etiketleri için sırasıyla yaklaşık olarak ortalama -%61, ve +%2 performans ödünleşimi raporlanmıştır. Sonuç: Bulgular ışığında, sadece açık kaynak veri seti ile eğitilen derin öğrenme modellerinin klinik ortamda genelleştirme kabiliyetinin sınırlı olduğu, lezyon türüne göre çeşitlilik gösterdiği, açık kaynak veri seti ile benzer veri setlerde daha başarılı sonuçlar verdiği sözlemlenmiştir. model performansının iyileştirilmesi için açık verisetleri üzerinde geliştirilen modellerin klinik ortamda kullanılması için öğrenme aktarımı (transfer learning) çalışmaların yapılması gerektiği görülmüştür.

Objectives: Deep learning-based tumor detection and segmentation methods have been developed for a long time and are now widely used in the literature. While the earlier deep learning methods generally use architectures based on convolutional neural networks, more novel methods based on visual transformer architectures have several advanced capabilities and are widely used today. In this study, these two deep learning approaches were trained on the data set frequently used in the literature and tested on real clinical data obtained from the hospital environment. Thus, it is aimed to measure the usage efficiencies and generalization capabilities of the models trained on open datasets on 5 different lesion types in real clinical settings. Materials and Methods: Using BraTS 2020 as an open dataset, eight deep-learning architectures based on Convolutional Neural Networks and Visual Transformers were trained. The trained models were reported using MR images prepared and labeled by the doctors of Ankara University Faculty of Medicine, Department of Radiology and the performance of the deep learning models was reported using the IoU and Dice coefficient metrics. Results: In the light of the analyzes grouped by lesion types, when the models trained in the BraTS 2020 dataset were tested on the dataset of Ankara University: approximately 17%, 4%, and 9% performance decreases were observed for HGG lesion, NCR/NET, Edema and Enhancing Tumor labels, respectively. As for the LGG tumors, approximately 45%, and 30% performance drop for NCR/NET and Enhancing Tumor labels were discovered, respectively. For Cavernoma tumors, approximately a 60% performance decrease for Edema labels. For Meningioma tumors, An average of approximately 36% and 33% performance decline were reported for the Edema and Enhancing Tumor labels, respectively, and finally, approximately 61% and 2% performance diminish for the Schwannoma lesion for Edema and Enhancing Tumor labels were shown, respectively. Conclusion: In light of the findings, it has been observed that the generalization ability of deep learning models trained only with the open source dataset is quite limited in the clinical setting, varies according to the lesion type, and gives more successful results in the open dataset and similar datasets. In order to improve the model performance, it has been seen that transfer learning studies should be carried out in order to use the models developed on open datasets in the clinical environment.