Toolverse
All skills

groq-rate-limits

by jeremylongshore

Implement Groq rate limiting, backoff, and idempotency patterns.\nUse when handling rate limit errors, implementing retry logic,\nor optimizing API request throughput for Groq.\nTrigger with phrases like \

Installation

Pick a client and clone the repository into its skills directory.

Installation

Quick info

Category
Security

About this skill

Implement Groq rate limiting, backoff, and idempotency patterns.\nUse when handling rate limit errors, implementing retry logic,\nor optimizing API request throughput for Groq.\nTrigger with phrases like \

How to use

  1. Zainstaluj skill w swoim projekcie Claude Code, Codex lub OpenClaw, wskazując repozytorium jeremylongshore/claude-code-plugins-plus-skills.
  2. Wyzwól skill frazami takimi jak "groq rate limit", "groq throttling", "groq 429", "groq retry" lub "groq backoff" w kontekście kodu obsługującego API Groq.
  3. Skill automatycznie parsuje nagłówki odpowiedzi Groq: x-ratelimit-limit-requests, x-ratelimit-remaining-tokens, retry-after i inne, aby wyodrębnić informacje o limitach.
  4. Implementuje logikę exponentialnego backoffu — gdy napotkasz błąd 429, skill oblicza czas oczekiwania na podstawie nagłówka retry-after i automatycznie powtarza żądanie.
  5. Monitoruje jednocześnie oba ograniczenia: RPM (żądania na minutę) i TPM (tokeny na minutę), ponieważ Groq egzekwuje je równocześnie na poziomie organizacji.
  6. Sprawdź aktualne limity dla swojego planu na console.groq.com/settings/limits, aby dostosować strategię kolejkowania żądań do dostępnych zasobów.

Related skills