Задача классификации научной специальности представляет собой сложный процесс, в котором, как правило, задействуется команда специалистов по определенному научному направлению. Одна из наиболее частых ситуаций, при которой возникает подобная задача, это определение научной специальности при защите диссертации. При решении подобной задачи можно использовать уже существующие научные тексты по специальностям. Наиболее показательным набором текстов по определенной специальности является набор авторефератов. Перед созданием интеллектуальной системы классификации научной специальности требуется обработка текстов авторефератов и их векторизация, которая обеспечит возможность обучения моделей. Разные способы обработки текстов оказывают разное влияние на конечный результат. В данной работе проведено сравнение разных способов подготовки текстов. При этом особенное внимание уделено возможности применения способов на разных по размеру наборах данных. Исследование способов подготовки текстов на малом наборе данных, а затем масштабирование этих же способов на большой набор данных обеспечит значительное сокращение затрачиваемого машинного времени на работу с текстами. В результате исследования установлена самая эффективная комбинация способов подготовки текстовых данных. Дальнейшая векторизация текстов возможна разными способами. В работе рассмотрена возможность векторизации методом TF-IDF. Для обеспечения наилучшего результата работы моделей машинного обучения проведены эксперименты по выбору оптимальных гиперпараметров векторизатора. В результате проведения экспериментов оценено влияние различных изменений гиперпараметров на конечный результат работы модели машинного обучения.
1. Иванов Н.Н. Синтаксический разбор предложения для векторизации текста. Вопросы науки и образования. 2017;11(12):45-46.
2. Спивак А.И., Лапшин С.В., Лебедев И.С. Классификация коротких сообщений с использованием векторизации на основе elmo. Известия Тульского государственного университета. Технические науки. 2019;10:410-418.
3. Флах, П.. Машинное обучение. Наука и искусство построения алгоритмов, которые извлекают знания из данных. Litres, 2019.
4. Бородин А.И., Вейнберг Р.Р., Литвишко О.В. Методы обработки текста при создании чат-ботов. Хуманитарни Балкански изследвания. 2019;3(3(5)):108-111. DOI: 10.34671/sch.hbr.2019.0303.0026
5. Кайбасова Д.Ж. Извлечение статистических данных для определения уникальности документов на основе анализ контента учебных программ дисциплин. The Scientific Heritage. 2020;44-1(44):57-62.
6. Кротова О.С., Москалев И.В., Хворова Л.А., Назаркина О.М. Реализация эффективных моделей классификации медицинских данных методами интеллектуального анализа текстовой информации. Известия Алтайского государственного университета. 2020;1(111):99-104.
7. Исаченко В.В., Апанович З.В. Система анализа и визуализации для кросс-языковой идентификации авторов научных публикаций. Вестник Новосибирского государственного университета. Серия: Информационные технологии. 2018;16(2):49-61. DOI: 10.25205/1818-7900-2018-16-2-49-61.
8. Жеребцова Ю.А., Чижик А.В. Создание чат-бота: обзор архитектур и векторных представлений текста. International Journal of Open Information Technologies. 2020;8(7):50-56.
9. Попова Е.П., Леоненко В.Н.. Прогнозирование реакции пользователей в социальных сетях методами машинного обучения. Научно-технический вестник информационных технологий, механики и оптики. 2020;20(1):118-124.
10. Udhayakumar S., Nancy J.S., UmaNandhini D., Ashwin P., Ganesh R. Context Aware Text Classification and Recommendation Model for Toxic Comments Using Logistic Regression. Intelligence in Big Data Technologies—Beyond the Hype. Springer, Singapore. 2021;209-217. DOI: 10.1007/978-981-15-5285-4_20.
11. De Cock M., Dowsley R., Nascimento A.C., Railsback D., Shen J., Todoki A. (2021). High performance logistic regression for privacy-preserving genome analysis. BMC Medical Genomics. 2021;14(1):1-18. DOI: 10.21203/rs.3.rs-26375/v1.
12. Kumar V., Subba B. (2020, February). A TfidfVectorizer and SVM based sentiment analysis framework for text data corpus. 2020 National Conference on Communications (NCC). IEEE. 2020;1-6. DOI: 10.1109/ncc48643.2020.9056085.
13. Subba B., Gupta P. A tfidfvectorizer and singular value decomposition based host intrusion detection system framework for detecting anomalous system processes. Computers & Security. 2021;100. DOI: 10.1016/j.cose.2020.102084.
14. Абрамов П.С. Извлечение ключевой информации из текста. Новые информационные технологии в автоматизированных системах. 2018;21:217-219.
Гусев Павел Юрьевич
Кандидат технических наук
ORCID | РИНЦ |
Воронежский государственный технический университет
Воронеж, Россия
