МОДИФИКАЦИЯ НЕЙРОСЕТЕВОЙ МОДЕЛИ RKELM С ДООБУЧЕНИЕМ

Целью данной работы является разработка модели искусственной нейронной сети (ИНС), способной работать в динамически меняющихся условиях. Несмотря на большое количество исследований, и разработок в данной области, до сих пор отсутствуют модели, удовлетворяющие ограниченным условиям мобильных систем (прежде всего по производительности). В данной статье предлагается разработанная модификация модели с экстремальным обучением Хуанга (RKELM), отличающаяся от оригинального подхода процессом обучения (обучение на общих признаках, без увеличения матрицы весов и обучающей выборки, с последующим дообучением под конкретные условия). В качестве тестовой выборки данных использовался датасет из открытого репозитория машинного обучения UCI. Были поставлены вычислительные эксперименты, целью которых было выявление наиболее подходящей модели. Выбор производился из RKELM, SVM и ELM, критериями выбора являлись производительность и точность классификации. Наиболее подходящей оказалась модель с экстремальным обучением Хуанга, она и была использована в качестве основы разработанной модификации. Приведены результаты сравнения оригинальной и модифицированной модели. Предложенный подход превзошел конкурентные в скорости и производительности, незначительно уступая при этом лишь в точности классификации данных в изначальных условиях, но оказался значительно точнее в новых условиях, в которых модель не была обучена.

1. Anguita, D., Ghio, A., Oneto, L., Parra, X., & Reyes-Ortiz, J. L. Human activity recognition on smartphones using a multiclass hardware-friendly support vector machine. In Ambient assisted living and home care-Springer. 2012:216–223.

2. Львович Я.Е., Белецкая С.Ю. Повышение эффективности процедур параметрического синтеза сложных систем на основе трансформации оптимизационных задач. Информационные технологии. 2002;10:31-35.

3. Huang, G.B., Zhu, Q.Y., & Siew, C.K. Extreme learning machine: theory and applications. Neurocomputing. 2006:489–501.

4. Lee, Y.J., & Huang, S.Y. Reduced support vector machines: a statistical theory. Neural Networks, IEEE Transactions on. 2007:1–13.

5. Deng, W., Zheng, Q., & Zhang, K. Reduced Kernel Extreme Learning Machine. In Proceedings of the 8th international conference on computer recognition systems CORES. 2013:63–69.

6. Blake, C.L., & Merz, C.J. UCI Repository of machine learning databases http://www.ics.uci.edu/mlearn/MLRepository.html - Irvine, CA: University of California, Department of Information and Computer Science. 1998:55–78.

7. Yilun Chen, Zhicheng Wang, Yuxiang Peng, Zhiqiang Zhang, Gang Yu, and Jian Sun. Cascaded pyramid network for multi-person pose estimation. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR). 2018:7103–7112.

8. Liang-Chieh Chen, Maxwell Collins, Yukun Zhu, George Papandreou, Barret Zoph, Florian Schroff, Hartwig Adam, and Jon Shlens. Searching for efficient multi-scale architectures for dense image prediction. In Advances in Neural Information Processing Systems. 2018:8699–8710.