Documentation développeur•stable•Mis à jour 2026-07-08

Rate limits

Concevoir les clients Gateway, ingestion directe et webhooks pour gérer throttling et backpressure.

Rate Limits

Rate limits protect Kadryn, votre workspace et amont providers depuis uncontrolled trafic.

A rate limit peut happen at several layers:

  • votre application;
  • Kadryn API;
  • Kadryn Gateway;
  • provider route;
  • amont provider IA;
  • webhook delivery destination.

How à gérer rate limits

Lorsqu’une requête est rate limited :

  1. ne retryez pas immédiatement dans une boucle serrée;
  2. utiliser exponential backoff avec jitter;
  3. préserver idempotency clés;
  4. préserver trace IDs et request group IDs;
  5. reduce concurrency si limits continue;
  6. move worker trafic via queues lorsque possible.

Gateway rate limits

Gateway trafic peut be limited by:

  • Kadryn workspace limits;
  • provider route limits;
  • amont provider limits;
  • forfait droits;
  • caps budgétaires ou application des policies.

Un rate limit Gateway ne signifie pas toujours que Kadryn est le goulot d’étranglement. Vérifiez Logs & Traces pour voir si la limite vient de Kadryn ou du provider.

ingestion directe rate limits

For ingestion workers:

  • batch événements;
  • keep batches borné;
  • retry seulement échoué batches;
  • utiliser stable idempotency clés;
  • éviter high-cardinality retry storms;
  • log accepté, rejeté et retried comptes.

Webhook destination limits

Si votre endpoint est lent ou rate limited, Kadryn peut retry, marquer les livraisons comme en retry ou finir par les mettre en échec.

Votre endpoint doit :

  • respond quickly;
  • perform heavy work asynchronously;
  • vérifier signatures avant processing;
  • return un 2xx après accepting le événement;
  • éviter long synchronous work.

Client retry policy

Recommended default:

initial delay: 500 ms
max delay: 30 s
max attempts: 5
jitter: enabled
idempotency: required for writes

N’utilisez pas la même stratégie de retry pour les erreurs permanentes.

What pas à retry

Ne retryez pas sans modifier la requête lorsque l’erreur est :

  • clé API invalide;
  • manquant permission;
  • invalide payload;
  • policy block;
  • manquant provider clé;
  • unsupported model;
  • malformed webhook signature.

Observability

Track:

  • request rate;
  • retry compte;
  • erreur code;
  • final statut;
  • latence;
  • request group ID;
  • trace ID;
  • idempotency clé prefix ou hash;
  • queue lag.

Ne logguez pas les secrets complets.

Pages liées