throttling-apis
Implement API throttling policies to protect backend services from overload.\nUse when controlling API request rates.\nTrigger with phrases like \
Installation
Pick a client and clone the repository into its skills directory.
Installation
About this skill
Implement API throttling policies to protect backend services from overload.\nUse when controlling API request rates.\nTrigger with phrases like \
How to use
Przeanalizuj istniejące handlery tras i middleware za pomocą Grep i Read, aby zidentyfikować endpointy z wysokim opóźnieniem, operacjami wymagającymi bazy danych lub zależnościami od usług zewnętrznych, które wymagają ochrony ograniczania ruchu.
Zaimplementuj middleware limitera współbieżności, które śledzi żądania w locie na endpoint i odrzuca nowe żądania kodem 503 Service Unavailable, gdy limit współbieżności zostanie osiągnięty.
Dodaj obsługę kolejki priorytetowej, która klasyfikuje żądania według warstwy klucza API (free, pro, enterprise) i obsługuje żądania wyższej warstwy w pierwszej kolejności, gdy zbliżasz się do limitów ograniczania.
Zbuduj wyłącznik obwodu dla wywołań usług downstream, który się otwiera po konfigurowalnych progach błędów (np. 5 błędów w 10 sekund), zwracając odpowiedź błędu zamiast propagować awarię.
Skonfiguruj monitoring i metryki, aby śledzić opóźnienia backendu i wskaźniki błędów za pomocą Prometheus lub CloudWatch, umożliwiając adaptacyjne dostosowywanie limitów w oparciu o rzeczywisty stan zdrowia systemu.
Przetestuj zachowanie ograniczania pod obciążeniem za pomocą narzędzia do testów obciążeniowych (k6, Artillery, wrk), aby upewnić się, że polityki skutecznie chronią backend bez niepotrzebnego odrzucania prawidłowych żądań.