Ограничение запросов является важной частью управления доступностью и надежностью API. На сегодняшний день существует ряд подходов к реализации механизма ограничения запросов, каждый из которых основывается на определенном алгоритме или их комбинации. Однако существующие подходы зачастую рассматривают всех потребителей как однородную группу, что препятствует созданию гибких стратегий управления ресурсами в условиях современных распределенных архитектур. В данной статье автором предложены два новых метода ограничения запросов, основанные на алгоритме маркерной корзины. Первый метод предусматривает использование общей маркерной корзины с различными требованиями к минимальному уровню ее заполнения в зависимости от класса потребителей. Второй метод предполагает использование для каждого класса потребителей отдельных маркерных корзин со своими значениями параметров, но общим лимитом. Проведенное моделирование подтвердило, что оба метода позволяют обеспечить эффективное ограничение запросов к API, при этом были выявлены различия между методами в характере распределения ресурсов среди разных классов потребителей. Полученные результаты представляют практическую ценность для разработчиков информационных систем и сервисов, которым необходимо поддерживать высокий уровень доступности, одновременно обеспечивая гарантии доступа для разных категорий потребителей.
Rate limiting is a crucial aspect of managing the availability and reliability of APIs. Today, there are several approaches to implementing rate limiting mechanisms, each based on specific algorithms or their combinations. However, existing methods often treat all consumers as a homogeneous group, hindering the creation of flexible resource management strategies in modern distributed architectures. In this article, the author proposes two new methods for rate limiting based on the token bucket algorithm. The first method involves using a shared token bucket with different minimum fill requirements depending on the consumer class. The second method suggests using separate token buckets for each consumer class with individual parameter values but a common limit. Simulation results confirmed that both methods enable efficient API request limitation, though disparities emerged regarding resource distribution patterns across diverse consumer classes. These findings have practical implications for developers of information systems and services who need to maintain high availability while ensuring access guarantees for various consumer categories.
The authors declare that there are no conflicts of interest present.