langfuse-rate-limits

Implement Langfuse rate limiting, batching, and backoff patterns.\nUse when handling rate limit errors, optimizing trace ingestion,\nor managing high-volume LLM observability workloads.\nTrigger with phrases like \

1. Upewnij się, że masz zainstalowany i skonfigurowany SDK Langfuse oraz obciążenie śladów powyżej 1000 zdarzeń na minutę. 2. Skonfiguruj batching SDK — dla wersji v3 ustaw flushAt na 50 zdarzeń i flushInterval na 10000 ms, dla v4+ użyj LangfuseSpanProcessor z exportIntervalMillis i maxExportBatchSize. 3. Wdrożyć retry z exponential backoff dla niestandardowych wywołań API (scores, datasets, prompts) — funkcja withRetry automatycznie ponawiać żądania z opóźnieniem rosnącym wykładniczo. 4. Ograniczyć równoczesne żądania za pomocą queue'a lub semafora, aby uniknąć jednoczesnego wysyłania zbyt wielu batchy. 5. Dla ultra-wysokich wolumenów włączyć próbkowanie zdarzeń — wysyłaj tylko procent śladów do Langfuse, zachowując reprezentatywne dane. 6. Monitoruj odpowiedzi API na błędy 429 i dostosuj ustawienia batching lub próbkowania jeśli limity są nadal osiągane.