Синтез архитектуры нейронной сети для распознавания образов судов на базе технологии предварительного обучения

Актуальность статьи обусловлена инфокоммуникационным обеспечением судоходства путем мониторинга речных судов с использованием камер видеонаблюдения. Основной задачей является распознавание судов на изображениях, для чего перспективно применение нейронных сетей. Целью работы является исследование показателей эффективности распознавания судов доступными и предварительно обученными сетями после их дообучения под поставленные задачи и выбор наиболее эффективной сети. В работе рассмотрены различные предварительно обученные нейронные сети. Входными данными для сетей являются изображения судов. Обучающая выборка собрана вручную и включает в себя два независимых DataSet с изображениями речных судов и множества других объектов, за исключением судов. Сети построены и дообучены с использованием библиотек машинного обучения Keras и TensorFlow. Описано применение предварительно обученных сверточных искусственных нейронных сетей для задач распознавания образов и преимущества использования такой сети перед синтезом нейронной сети с нуля. Подробно описана архитектура эффективной предварительно обученной нейронной сети VGG16. Проведен эксперимент по дообучению доступных предварительно обученных сверточных нейронных сетей под поставленную задачу. Проведена оценка эффективности различных дообученных нейронных сетей в процентном соотношении случаев правильного распознавания образов на тестовой выборке. Выбрана наиболее эффективная нейронная сеть для задач распознавания образов судов. Максимальную точность показали сети NASNetMobile и NASNetLarge. Однако минимальный размер изображений, с которым могут работать эти сети, больше, чем для остальных доступных сетей, а большое число параметров в сверточных слоях этих сетей обусловливают намного большее время дообучения и работы, чем для остальных доступных сетей. Вместе с тем нейронная сеть VGG16 при небольшом числе параметров и малом времени на дообучение показала очень высокую эффективность, ввиду чего рекомендована к использованию для задачи распознавания образов судов.

1. Гольцова И.А., Гуламов А.А. Информационное обеспечение участка железной дороги Известия Юго-Западного государственного университета. Серия: Управление, вычислительная техника, информатика. Медицинское приборостроение. 2017;7(2):6–11. Доступно по: https://swsu.ru/izvestiya/seriesivt/archiv/2_2017.pdf.

2. Маклаков Е.С., Гуламов А.А. Узел сбора информации диспетчерского центра Известия Юго-Западного государственного университета. 2018;22(6):136–142. Доступно по: https://doi.org/10.21869/2223-1560-2018-22-6-136-142.

3. Маклаков Е.С., Гуламов А.А. Оптимизация «последних миль» до удаленных узлов доступа путем применения технологии LCAS Моделирование, оптимизация и информационные технологии. 2019;7(3). Доступно по: https://moitvivt.ru/ru/journal/pdf?id=635. DOI: 10.26102/2310-6018/2019.26.3.039.

4. Гуламов А.А., Конарев Д.И. Cинтез архитектуры нейронной сети для распознавания образов морских судов. Известия Юго-Западного государственного университета. 2020;24(1):130–143. Доступно по: https://doi.org/10.21869/2223-1560-2020-24-1-130-143.

5. Bastiaan Sjardin, Luca Massaron, Alberto Boschetti. Large Scale Machine Learning with Python. Packt Publishing; 2016. 420 p.

6. Adrian Rosebrock. Deep Learning for Computer Vision with Python. PyImageSearch, 2017. 330 p.

7. Cuong Dao-Duc, Hua Xiaohui, Olivier Morère. Maritime Vessel Images Classification Using Deep Convolutional Neural Networks. SoICT. 2015:276–281. Доступно по: https://doi.org/10.1145/2833258.2833266.

8. Leclerc M., Tharmarasa R., Florea M.C., Boury-Brisset A.C., Kirubarajan T., Duclos-Hindie N., Ship classification using deep learning techniques for maritime target tracking. 21 st International Conference on Information Fusion FUSION. 2018:737–744 pp.

9. Tom Hope, Yehezkel S. Resheff. Itay Lieder Learning TensorFlow: A Guide to Building Deep Learning Systems. O'Reilly Media; 1 edition; 2017. 242 pp.

10. Мюллер А. Введение в машинное обучение с помощью Python. Руководство для специалистов по работе с данными. Вильямс; 2017. 480 с.

11. Себастьян Рашка. Python и машинное обучение. ДМК-Пресс; 2017. 418 с.

12. Martín Abadi, Paul Barham, Jianmin Chen, Zhifeng Chen, Andy Davis, Jeffrey Dean, Matthieu Devin, Sanjay Ghemawat, Geoffrey Irving, Michael Isard, Manjunath Kudlur, Josh Levenberg, Rajat Monga, Sherry Moore, Derek G. Murray, Benoit Steiner, Paul Tucker, Vijay Vasudevan, Pete Warden, Martin Wicke, Yuan Yu, and Xiaoqiang Zheng, Google Brain Tensor flow: A system for large-scale machine learning. Operating Systems Design and Implementation: Proc. 12th Symposium, Savannah, GA, USA. 2016:265–283.

13. Антонио Джулли, Суджит Пал. Библиотека Keras – инструмент глубокого обучения. Реализация нейронных сетей с помощью библиотек Theano и Tensor Flow. ДМК-Пресс; 2017. 296 с.

14. Франсуа Шолле. Глубокое обучение на Python. Питер; 2018. 400 с.

15. Aurélien Géron. Hands-On Machine Learning with Scikit-Learn and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems. O'Reilly Media; 2017. 574 p.

16. Ian Goodfellow. Deep Learning (Adaptive Computation and Machine Learning series). The MIT Press; 2016. 800 p.

17. Tariq Rashid. Make Your Own Neural Network. CreateSpace Independent Publishing Platform; 2016. 222 p.

18. Schmidhuber J. Deep learning in neural networks: An overview. Neural Networks. 2015;(61):85–117.

19. Josh Patterson, Adam Gibson. Deep Learning: A Practitioner's Approach.; 2017. 532 p.

20. Саймон Хайкин. Нейронные сети. Вильямс; 2018. 1104 с.

21. Kaggle: Your Machine Learning and Data Science Community Game of Deep Learning: Ship datasets. 2019. Доступно по: https://www.kaggle.com/arpitjain007/game-of-deep-learning-ship-datasets (дата обращения: 10.03.2021).

22. COCO: Common Objects in Context 2017 Val images. 2017. Доступно по: http://images.cocodataset.org/zips/val2017.zip (дата обращения: 10.03.2021).

23. Michael Taylor. The Math of Neural Networks. Amazon Digital Services LLC – Kdp Print Us; 2017. 168 p.