Система обнаружения фишинговых ссылок на основе объяснимых технологий искусственного интеллекта

Разработан комплекс моделей анализа символьного доменного имени в задачах обнаружения фишинговых ссылок, на основе построения ансамбля классификаторов, отличающихся оптимизацией для аппаратных платформ, что позволяет повысить оперативность анализа при встраивании в существующие системы мониторинга информационной безопасности. Результаты тестирования на натурных данных по ключевым метрикам подтверждают высокую точность обнаружения вредоносных ссылок. Разработано программное обеспечение с микросервисной архитектурой для интеграции в информационную систему центра мониторинга информационной безопасности. Предложенные модели оптимизированы для использования на центральном процессоре путем перевода их в скомпилированный код, что увеличило вычислительную производительность моделей на 26 %. Предложены модели классификаторов на основе трансформера Code-BERT, дообученного на подготовленном наборе данных. Разработаны модули подсистемы объяснения принимаемого решения с помощью методов объяснимого искусственного интеллекта – применения техник составления запроса для локально развернутой большой языковой модели с описанием признаков вредоносных ссылок zero-shot learning.

1. Карпова Н.Е., Восканян И.И. Угроза социальной инженерии и фишинга в современной информационной безопасности. Безопасность цифровых технологий. 2024;(2):69–78. https://doi.org/10.17212/2782-2230-2024-2-69-78

2. Васильев В.И., Вульфин А.М., Кучкарова Н.В. Автоматизация анализа уязвимостей программного обеспечения на основе технологии Text Mining. Вопросы кибербезопасности. 2020;(4):22–31.

3. Кутлыев Д.З., Шманина А.В. Использование алгоритмов машинного обучения для защиты от URL-фишинга. В сборнике: Мавлютовские чтения: Материалы XV Всероссийской молодежной научной конференции: Том 4, 26–28 октября 2021 года, Уфа, Россия. Уфа: Уфимский государственный авиационный технический университет; 2021. С. 430–435.

4. Tonkal Ö., Polat H., Başaran E., Cömert Z., Kocaoğlu R. Machine Learning Approach Equipped with Neighbourhood Component Analysis for DDoS Attack Detection in Software-Defined Networking. Electronics. 2021;10(11). https://doi.org/10.3390/electronics10111227

5. Alshingiti Z., Alaqel R., Al-Muhtadi J., Haq Q.E.U., Saleem K., Faheem M.H. A Deep Learning-Based Phishing Detection System Using CNN, LSTM, and LSTM-CNN. Electronics. 2023;12(1). https://doi.org/10.3390/electronics12010232

6. Karim A., Shahroz M., Mustofa Kh., Belhaouari S.B., Joga S.R.K. Phishing Detection System Through Hybrid Machine Learning Based on URL. IEEE Access. 2023;11:36805–36822. https://doi.org/10.1109/ACCESS.2023.3252366

7. Васильев В.И., Вульфин А.М., Кучкарова Н.В. Оценка актуальных угроз безопасности информации с помощью технологии трансформеров. Вопросы кибербезопасности. 2022;(2):27–38.

8. Лукманова К.А., Картак В.М. Распознавание фишинговых ссылок с использованием методов машинного обучения. Безопасность цифровых технологий. 2024;(3):9–20. https://doi.org/10.17212/2782-2230-2024-3-9-20

9. Arrieta A.B., Díaz-Rodríguez N., Del Ser J., et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges Toward Responsible AI. Information Fusion. 2020;58:82–115. https://doi.org/10.1016/j.inffus.2019.12.012

10. Mahdaouy A.E., Lamsiyah S., Idrissi M.J., Alami H., Yartaoui Z., Berrada I. DomURLs_BERT: Pre-Trained BERT-Based Model for Malicious Domains and URLs Detection and Classification. arXiv. URL: https://arxiv.org/abs/2409.09143 [Accessed 29th August 2025].

11. Maneriker P., Stokes J.W., Lazo E.G., Carutasu D., Tajaddodianfar F., Gururajan A. URLTran: Improving Phishing URL Detection Using Transformers. In: MILCOM 2021 – 2021 IEEE Military Communications Conference (MILCOM), 29 November – 02 December 2021, San Diego, CA, USA. IEEE; 2021. P. 197–204. https://doi.org/10.1109/MILCOM52596.2021.9653028

12. Yang Yu, Li H., Jing D. Detection of Malicious URL Based on BERT-CNN. In: 2023 International Conference on Computer Science and Automation Technology (CSAT), 06–08 October 2023, Shanghai, China. IEEE; 2023. P. 284–288. https://doi.org/10.1109/CSAT61646.2023.00079

13. Tsai Yu.-D., Liow C., Siang Y.-Sh., Lin Sh.-D. Toward More Generalized Malicious URL Detection Models. In: AAAI 2024: Thirty-Eighth AAAI Conference on Artificial Intelligence, IAAI 2024: Thirty-Sixth Conference on Innovative Applications of Artificial Intelligence, EAAI 2014: Fourteenth Symposium on Educational Advances in Artificial Intelligence, 20–27 February 2024, Vancouver, Canada. AAAI Press; 2024. P. 21628–21636. https://doi.org/10.1609/aaai.v38i19.30161

14. Rao R.S., Vaishnavi T., Pais A.R. CatchPhish: Detection of Phishing Websites by Inspecting URLs. Journal of Ambient Intelligence and Humanized Computing. 2020;11(2):813–825. https://doi.org/10.1007/s12652-019-01311-4

15. Alsowail R.A. Anomaly Detection Based Capsnet for Malicious URL Detection System. Wireless Networks. 2025;31:3785–3801. https://doi.org/10.1007/s11276-025-03960-0

16. Rashid F., Ranaweera N., Doyle B., Seneviratne S. LLMs Are One-Shot URL Classifiers and Explainers. Computer Networks. 2025;258. https://doi.org/10.1016/j.comnet.2024.111004

17. Mailewa A., Mengel S., Gittner L., Khan H. Mechanisms and Techniques to Enhance the Security of Big Data Analytic Framework with MongoDB and Linux Containers. Array. 2022;15. https://doi.org/10.1016/j.array.2022.100236