Об эффективности применения визуальных трансформеров в обнаружении аномалий гистопатологических изображений

Рак молочной железы является одним из наиболее распространенных и опасных видов онкологии у женщин. Современные подходы к его раннему обнаружению и лечению все чаще используют методы искусственного интеллекта и глубокого обучения. В работе исследованы гистопатологические изображения молочной железы с использованием нейронных сетей-трансформеров и глубоких нейронных сетей. В качестве моделей трансформеров использованы модели Vision Transformer (ViT), Data Efficient Image Transformer (DeiT). В качестве моделей глубоких сверточных нейронных сетей выбраны модели ResNet50, VGG16, DenseNet201, EfficientNet-B7, Xception. Все модели были предварительно обучены на наборе изображений ImageNet1к, а затем дообучены на наборе из 4356 гистопатологических изображений. В результате компьютерных экспериментов установлено, что модель EfficientNet-B7 превзошла другие модели, достигнув показателя точности 95.84%. Для повышения производительности моделей классификации гистопатологических изображений в работе применен метод дистилляции знаний, что позволило получить новую модель глубокой нейронной сети-трансформера DeiT_B_dist для высокоточной классификации гистопатологических изображений и обнаружения рака молочной железы. Показатели ее точности составили 98.14% и превзошли остальные модели, а также сопоставимы с результатами работ других исследователей.