Présentation
Le plugin de rate limiting de Kong utilise par défaut une politique de compteur local, qui conserve les compteurs dans la mémoire propre à chaque nœud. Sur un nœud unique, c'est correct. Sur une passerelle à scaling horizontal, cela signifie que chaque nœud applique la limite complète de façon indépendante : le plafond effectif devient la limite configurée multipliée par le nombre de nœuds.
Défi
Des clients abonnés à une offre à l'usage dépassaient systématiquement le quota de requêtes prévu dans leur contrat, et l'intégration d'un partenaire submergeait un service en aval que la limite de débit était censée protéger. Dans la configuration du plugin, la limite semblait correcte. Mais la passerelle était passée de deux à huit réplicas quelques mois plus tôt, et personne n'avait réexaminé la politique de compteur.
Environnement
Kong sur Kubernetes avec un data plane à scaling horizontal, un rate limiting appliqué par consommateur et un Redis disponible dans le cluster.
Approche
AceMQ a reproduit le dépassement par un test de charge contrôlé qui répartissait les requêtes entre les réplicas, confirmant que la limite effective augmentait avec le nombre de réplicas. Nous avons déplacé le stockage des compteurs vers un backend Redis partagé, puis testé en charge le chemin Redis lui-même : un compteur partagé ajoute un saut réseau sur le chemin de chaque requête, et son timeout comme son comportement en cas de panne doivent être définis.
Solution
- Reproduction du dépassement de quota par un test de charge réparti sur les réplicas de la passerelle
- Passage des compteurs de rate limiting de la politique locale à un stockage partagé adossé à Redis
- Définition du timeout Redis et d'un comportement tolérant aux pannes, pour qu'une indisponibilité du stockage des compteurs dégrade le service de façon prévisible
- Séparation des limites par consommateur, par service et globales, pour qu'aucune ne masque les autres
- Test de charge du chemin à compteur partagé, pour confirmer que la latence ajoutée restait dans le budget de la passerelle
Résultat obtenu
Les limites appliquées correspondent désormais aux limites configurées, quel que soit le nombre de réplicas, et le service en aval que la limite doit protéger n'est plus submergé par le trafic d'un seul partenaire.