Ключевые слова: квантильная регрессия, адаптивный алгоритм, градиентный спуск, математическое моделирование, численные методы
Адаптивная квантильная регрессия
УДК 519.6
DOI: 10.26102/2310-6018/2024.44.1.016
Актуальность темы исследования обусловлена растущей потребностью в быстрых и точных инструментах построения математических моделей. В данной работе рассматриваются подходы к построению адаптивной квантильной регрессии, так как выбор оптимального квантиля в процессе обучения может сэкономить большое количество времени исследователя. Правильный выбор квантиля может существенно улучшить показатели модели на тестовых наборах данных и, как следствие, позволит получать более надежные прогнозы при реальном использовании такой математической модели. Разработанный подход представляет собой комбинацию модифицированной квантильной регрессии и градиентного спуска, что улучшает адаптацию модели к различным данным. В работе приведено подробное описание разрабатываемого алгоритма, сравнение точности работы предложенной модели с традиционной квантильной регрессией и градиентным спуском, и их комбинациями, а также анализируется время обучения моделей, включая количество эпох обучения. Эксперименты показывают, что адаптивная квантильная регрессия демонстрирует повышенную точность при сокращении времени обучения. Результаты подчеркивают эффективность этого метода в области анализа данных и прогнозирования, открывая новые перспективы для более эффективных и быстрых моделей машинного обучения.
1. Zheng Qi, Limin Peng, Xuming He. Globally adaptive quantile regression with ultra-high dimensional data. The Annals of Statistics. 2015;43(5):2225–2258. DOI: 10.1214/15-AOS1340.
2. Barrodale I., Roberts F.D.K. An improved algorithm for discrete L1 linear approximation. SIAM Journal on Numerical Analysis. 1973;10(5):839–848. DOI: 10.1137/0710069.
3. Chen C. An Adaptive Algorithm for Quantile Regression. In: Theory and Applications of Recent Robust Methods by ICORS2003: International Conference on Robust Statistics – 2003, 13–18 July 2003, Antwerp, Belgium. Basel: Springer Basel AG; 2004. p. 39–48.
4. Chen C. A finite smoothing algorithm for quantile regression. Journal of Computational and Graphical Statistics. 2007;16(1):136–164. DOI: 10.1198/106186007X180336.
5. Behl P., Claeskens G., Dette H. Focussed model selection in quantile regression. Statistica Sinica. 2014;24(2):601–624. DOI: 10.5705/ss.2012.097.
6. Wang K., Wang H.J. Optimally combined estimation for tail quantile regression. Statistica Sinica. 2016;26(1):295–311. DOI: 10.5705/ss.2014.051.
7. Zheng S. Gradient descent algorithms for quantile regression with smooth approximation. International Journal of Machine Learning and Cybernetics. 2011;2:191–207. DOI: 10.1007/s13042-011-0031-2.
8. Li Y., Zhu J. L1-norm quantile regression. Journal of Computational and Graphical Statistics. 2008;17(1):1–23. DOI: 10.1198/106186008X289155.
9. Wang B., Hu T., Yin H. Quantile regression with Gaussian Kernels. Contemporary Experimental Design, Multivariate Analysis and Data Mining. 2020;373–386.
10. Тюрин А.С., Сараев П.В. Построение квантильной регрессии с использованием натурального градиентного спуска. Прикладная математика и вопросы управления. 2023;(2):43–52.
Ключевые слова: квантильная регрессия, адаптивный алгоритм, градиентный спуск, математическое моделирование, численные методы
Для цитирования: Тюрин А.С. Адаптивная квантильная регрессия. Моделирование, оптимизация и информационные технологии. 2024;12(1). URL: https://moitvivt.ru/ru/journal/pdf?id=1514 DOI: 10.26102/2310-6018/2024.44.1.016
Поступила в редакцию 04.02.2024
Поступила после рецензирования 19.02.2024
Принята к публикации 26.02.2024
Опубликована 31.03.2024